《骗子酒馆谎言》AI对话系统优化心得:超长上下文怎么处理?总结才是王道!我之前尝试删除状态栏等元素来节省tokens,虽然总tokens猛降20K,但API未命中缓存暴增(因为修改对话内容导致),资金消耗飞快,对话轮次到100依旧不行,于是紧急取消该功能。本地AI可用,但API不建议。 最终发现,保留初始系统上下文和最近5条对话是最佳方案,这样无论怎么玩,上下文都只有50轮,轻松应对1000轮对话。 除了一键总结,还尝试让AI控制角色显示和隐藏,效果超棒!现在角色动态出现,不再一屏幕全显,只渲染当前场景角色,更沉浸。 看来可以放心让AI处理更多任务,甚至战斗演出也能做成自走棋式播报,智能又高效!




换一换 































