Vals AI 分析发现 Inkling 2 Small 思维链中出现脏话

Vals AI 研究人员读取 Thinking Machines 的 Inkling 2 Small 模型在 13 个基准共 2655 次运行的思维链日志，发现其中 50 次运行出现脏话，共 316 处，且公布了这个发现。 其中 241 处脏话集中来自两次失控的运行。脏话与任务失败并无强关联：48 次有脏话的计分运行中 46 次失败，但所有计分运行本身约 75% 会失败，且 96% 的失败运行没有任何脏话。 这类思维步骤用户通常看不到，或只能看到经过过滤的版本。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。