深度学习调参
深度学习调参就像在telegram找最佳时机发消息!参数是你的表情包,用对了事半功倍!从激活函数到学习率,教你如何避免群聊式过拟合,用反向传播优化聊天体验,让模型像telegram机器人一样丝滑!
相关问题
TG机器人情感分析的BERT微调学习率设置
TG机器人心情感参调优要点:1. 初学者优先使用默认学习率5e-5,90%问题够用了。2. 如果loss不下降,可以尝试3e-5或者2e-5,不要盲目调高。3. warmup_steps设置总步数的10%。
5 个点赞 2 回答 127 浏览