Telegram对话历史容量优化方法

夹谷金鑫提问于06月11日

TG机器人对话系统上下文记忆的容量限制

TG机器人默认上下文窗口4096个token（中文字符算2token），超出后旧信息丢失，可通过：1.使用支持更大上下文窗口的自建模型 2.主动总结历史对话加入新上下文 3.关键信息重复强化记忆等方法扩容。