面向生产环境 LLM 的平台工程实践

Aditya Mulik 分享了库存推荐系统中 AI agent 幻觉问题的处理经验，将 LLM 技术栈从应用层提升为平台基础设施。其方案主张建设共享 LLM 平台，并提供 prompt registry 与版本管理、schema enforcement，以及按请求进行 token 成本归集等通用服务。