Sebastian Raschka· Sebastian Raschka, PhD·· 2025-08-09AI 评分69
从GPT-2到gpt-oss：分析OpenAI开放权重模型的架构进展
From GPT-2 to gpt-oss: Analyzing the Architectural Advances
AI 导读
OpenAI本周发布gpt-oss-20b和gpt-oss-120b，这是其自GPT-2以来首次共享大型开放权重模型，架构分析涵盖MoE、GQA、滑动窗口注意力、RMSNorm和注意力偏置等变化。文章还比较了gpt-oss与Qwen3在模型深度、宽度、专家数量及MXFP4量化部署方面的差异，并指出gpt-oss-20b可借助MXFP4在支持该格式的消费级GPU上运行。
来源：Sebastian Raschka · magazine.sebastianraschka.com