相关问题
TG机器人情感分析的BERT微调学习率设置
TG机器人心情感参调优要点:1. 初学者优先使用默认学习率5e-5,90%问题够用了。2. 如果loss不下降,可以尝试3e-5或者2e-5,不要盲目调高。3. warmup_steps设置总步数的10%。
9 个点赞 3 回答 536 浏览
TG机器人心情感参调优要点:1. 初学者优先使用默认学习率5e-5,90%问题够用了。2. 如果loss不下降,可以尝试3e-5或者2e-5,不要盲目调高。3. warmup_steps设置总步数的10%。