InfoQ· Sergio De Simone·· 3 小时前AI 评分62
Meta、MIT与华盛顿大学提出让语言模型自主管理上下文的CLM方法
Context Language Models: Self-Managing Context to Improve Performance and Reduce Compute Costs
AI 导读
Meta、MIT和华盛顿大学研究人员提出Context Language Models(CLMs),让语言模型通过更新文件自主重写和维护上下文。研究比较了零样本上下文管理、上下文学习和强化学习三种方式,并在多个基准上报告了性能与计算效率提升;同时,研究者指出信息误删、提示注入跨轮次延续和模型决策失误等未解决问题。
来源:InfoQ · infoq.com