Hugging Face Blog·· 2026-07-06精选AI 评分78
PRX 数据策略:用 Lance 构建训练语料并流式输出 MDS
PRX Part 4: Our Data Strategy
AI 导读
PRX 团队将公开与内部数据集混合,用 VLM 重新生成图像长描述,再把经过筛选和去重的数据转换为可流式读取的 MDS 语料。团队以 Lance 完成数据构建、查询和探索,并选择 Qwen3-VL-8B 进行描述生成;同时记录了 7B 训练中动态计算文本潜变量、使用质量 92 的 JPEG 以及分片跳过列表等实践。
推荐理由
系统介绍 PRX 训练数据策略及 Lance、MDS、Ray Data 等工具的分工,并给出长描述、JPEG 存储、过滤和去重等可复用的工程取舍。
来源:Hugging Face Blog · huggingface.co