使用 C++、ONNX Runtime 和 NVIDIA TensorRT RTX 构建本地 AI 应用示例
Do Inference Now (DIN) Deploy 是一组开源 C++ 示例,将 ONNX Runtime 与 NVIDIA TensorRT RTX execution provider 结合,用于把模型检查点接入本地原生应用。该项目面向需要可移植模型格式、可靠运行时及跨目标系统加速的开发者。
Do Inference Now (DIN) Deploy 是一组开源 C++ 示例,将 ONNX Runtime 与 NVIDIA TensorRT RTX execution provider 结合,用于把模型检查点接入本地原生应用。该项目面向需要可移植模型格式、可靠运行时及跨目标系统加速的开发者。
Hood Chatham 在 Python Language Summit 2026 介绍了为 CPython 引入内存快照的设想,以避免重复执行初始化流程。Pyodide 测试中,加载解释器执行“Hello, world”约快 4 倍(0.353 秒对 1.406 秒),但快照恢复可能使 hash 随机化等状态失效,因此讨论了重初始化入口、惰性导入和对象写时复制等方案。
Python Language Summit 2026 上,Petr Viktorin 更新了 Developer-in-Residence 的工作,并就 Łukasz Langa 离任后的团队安排与核心开发者展开讨论。
推荐理由:披露 Developer-in-Residence 的职责调整与后续招聘安排,并暴露 CPython 面对大量疑似 LLM 生成 PR 时的审核压力,对开源协作和贡献治理具有直接参考价值。
Python Language Summit 2026 介绍了面向自由线程 Python 的 Behavior-Oriented Concurrency(BOC)模型,尝试以任务、Cown 和调度器提供高层并发接口。Bocpy 目前是基于子解释器的概念验证,仅实现隔离,尚不具备所有权;对 asyncio、标准库原语及核心运行时支持仍在讨论中。
推荐理由:文章记录了 Python Language Summit 2026 对自由线程时代高层并发原语的讨论,并介绍 BOC 与 bocpy 概念验证及其安全、性能取舍,适合评估 Python 并发抽象的后续方向。
Python Language Summit 2026 闪电演讲讨论了 Stable ABI、线程安全中断、EktuPy、CPython 的 AGENTS.md 与 PEP 836。多项议题仍处于提案、调查或征求意见阶段,包括复用 ob_refcnt 空闲位、引入不可中断作用域,以及评估 LLM 代理生成贡献对 CPython 的影响。
ServiceNow CoreAI构建了AutoSynthData,利用目标模型的失败和更强教师模型的成功案例生成并验证企业智能体训练任务。系统在EnterpriseOps Gym的Hybrid和ITSM环境中进行SFT实验,Hybrid的Pass@1提升7.2个百分点,ITSM从18.77%升至27.18%。
推荐理由:文章公开了企业智能体训练数据的生成、验证与迭代流程,并通过两个ITSM环境实验提供量化结果,便于团队评估其实现方法与训练价值。
Docker 在 WeAreDevelopers World Congress North America 发布 Docker Cloud Sandboxes,让代理任务可在本地或 Docker 管理的云端隔离 microVM 中运行,并支持通过 sbx 迁移文件系统。
推荐理由:文章说明 Cloud Sandboxes 的隔离运行、权限控制与本地云端迁移方式,并介绍开放 Kit 规范和实操活动,便于开发者评估代理工作流的运行边界与治理路径。
Olmo-core 3 发布,重新设计了大语言模型的开源混合专家(MoE)训练系统,目标是在保持计算效率的同时扩展到万亿参数范围。初步测试中,基于8块 NVIDIA B300 GPU 的470亿参数MoE吞吐量达到每GPU每秒52,000个 token,约为此前实现的2.7倍;系统还完成了1.2万亿参数配置的性能测试,并支持MXFP8。
推荐理由:提供开源MoE训练基础设施与实测扩展数据,能帮助研究人员评估并行策略、精度格式及大规模训练的可行边界。
NVIDIA TensorRT Model Connect 是一个基于 NVIDIA TensorRT 构建、使用 C++ 编写的开源 AI 模型参考实现集合,围绕 coding agents 设计。其开发经验表明,并行工作、模型族隔离、可逆变更和 GPU 支持的验证是项目的核心实践。
Immich 发布 v3.3.0-rc.0,这是 v3.3 的首个候选版本,并非稳定版。更新可能包含缺陷或破坏性变更,官方要求升级前备份数据库和媒体库。
推荐理由:正式版前的候选版本覆盖服务端、网页端和移动端多项功能与修复,并提供明确测试入口;其不稳定性与潜在破坏性变更要求自托管用户先备份再评估升级。
Cloudflare 正开发内部工具 CryptoLabe,以两阶段扫描发现代码中的密码学用法、评估迁移分类,并生成面向产品经理和工程师的报告。该工具依托 Workers、Durable Objects、Workflows、AI Gateway 等组件,但仍在演进,尚未提供客户使用;Cloudflare 也强调扫描结果需由相关工程师复核,公开的提示词只是起点。
推荐理由:披露 CryptoLabe 的分阶段扫描、分类、编排与人工复核方法,并说明缺少 ground-truth 数据集和完整覆盖,可供团队设计后量子迁移盘点流程时参考。
Git 2.56.0 新增 git-history(1) 的 drop、git-branch(1) 的 --forked 和 --delete-merged,以及 git-refs(1) 的引用创建、删除、更新和重命名能力。
推荐理由:覆盖 Git 2.56.0 的命令增强、实验性能力与对象数据库改造,并交代 Git 3.0 的计划时间表,适合开发者评估升级影响与生态兼容准备。
Google Research 提出 AI video co-director 统一多代理框架,并介绍 CANVAS、A²RD 与 VQQA。其方法分别处理多镜头创意规划、视觉状态连续性、分钟级视频生成和视觉瑕疵反馈优化。
推荐理由:将长视频生成拆分为全局创意规划、视觉连续性、长程生成与闭环优化,框架、评测集和量化结果可供研究与原型验证参考。
Antonio Morales 构建了面向 C/C++ 项目的自主模糊测试流水线 Fuzzing Taskflow,通过 Taskflow Agent 协调 AFL++、harness、覆盖率分析和崩溃报告生成。
推荐理由:给出架构、运行方式、覆盖率反馈与崩溃分流方法,并明确模型误判和宿主机执行风险,便于安全研究人员评估和试用。
Go 1.26 为 amd64 引入 SIMD API,Go 1.27 扩展到 arm64 的 NEON 和 wasm,并提供实验性的跨平台 simd 接口。simd 通过移除固定向量长度、限定共同支持的操作并以模拟补齐差异,使代码在支持或不支持 SIMD 的平台上运行;构建时需设置 GOEXPERIMENT=simd,Go 1.28 计划加入 SVE 支持及更多操作。
推荐理由:文章说明 Go 1.26、1.27 的实验性 SIMD API 及跨平台接口设计,给出启用方式、平台差异、回退机制与后续计划,对评估 Go SIMD 方案有直接参考价值。
Fedora 45 的 Anaconda 图形安装器新增 Stratis 存储配置支持,用户可通过 Cockpit 存储模块创建存储池和文件系统。文章还介绍使用 Kickstart 的 autopart、stratispool 和 stratisfs 配置自动或手动 Stratis 布局;Anaconda 暂不支持缓存和无口令加密,但可在安装后启用。
推荐理由:文章提供 Fedora 45 使用 Stratis 的图形化与 Kickstart 安装步骤,涵盖存储池、文件系统、加密及超额配置,适合需要规划本地存储布局的 Linux 用户。
Cisco Talos 发现并分析了 CLOSEDQUORUM:一种部署后将战术命令与控制交给多个商业 LLM 投票决策的 Windows 植入体。Talos 尚未确认其在野部署,公开版本使用占位 API 密钥和 webhook,因此未观察到完整端到端执行;其 CAIRN 项目用于跟踪 AI 集成恶意软件。
推荐理由:Cisco Talos 公开分析 CLOSEDQUORUM 自主 AI C2 植入体,并同步发布 CAIRN 开源研究工具;文章提供架构、决策机制、样本限制与行为检测线索,对研究 AI 辅助攻击具有直接参考价值。
Constructive 发布 MIT 许可的 pgsql-test 测试工具,将临时 PostgreSQL 数据库接入项目现有测试运行器。它支持一次性种子数据及逐项回滚,并可测试约束、函数和行级安全策略;相关工具及集成已上架 npm 和 PyPI。
推荐理由:将真实 PostgreSQL 数据库、事务回滚和种子数据接入现有测试运行器,尤其适合验证行级安全策略及约束,适合需要缩短数据库开发反馈周期的团队。
GitLab 介绍 Flow Registry 如何通过组件、路由和共享状态结构,将基于 LangGraph 的 agentic flow 改为声明式 YAML,使 Python 源码与每个 flow 的代码量降低 45%。GitLab 称,这一架构改善了迭代速度、可靠性和维护成本,并为 GitLab Duo Agent Platform 的流程开发提供可复用的抽象。
推荐理由:文章以 GitLab Duo Agent Platform 的架构重构为案例,说明如何通过可复用组件、路由和共享状态将 LangGraph 流程从 Python 实现迁移到 YAML,并为团队设计 agentic flow 提供可复用的工程方法。
AWS Weekly Roundup 汇总 AWS Builder Center 移动应用、Amazon Connect Talent、Amazon Corretto 27、Kimi K3、Amazon EC2 T8i 和 Elastic Beanstalk Cluster Mode 等发布与更新。
推荐理由:汇总移动应用、云服务正式发布与基础设施更新,并给出功能、兼容性及性能信息,适合开发者和小团队快速掌握近期 AWS 变化。
Google与UniBrescia、ENPC Paris合作推出MilleMiglia,用C++生成符合中程物流特征且不暴露私有信息的合成基准实例。其数据格式以Protocol Buffers序列化,在同一文件中纳入固定车辆时刻、配送中心吞吐限制和复杂同步前提。生成规模覆盖精确算法测试用小型问题、大陆级工业问题及机器学习训练数据集,源码、文档和示例实例已在GitHub提供。
Google Research发布一项研究实验,探索让教育者通过生成式UI创建符合课程目标的互动式、引导式教育模拟。团队同时发布30多个面向中学物理、化学、生物和数学的英文 STEM 互动内容,均由AI生成并经教师审核;美国12名教师的初步研究显示,互动内容质量平均评分为8/10。
推荐理由:展示了生成式UI用于课程定制教学模拟的实验路径,并以教师审核、试点反馈和评价机制说明后续落地仍需验证。
Cooley 利用 ChatGPT 构建 GO Public,为 IPO 流程引入智能辅助。该工具旨在帮助律师更早发现潜在问题,并将判断力集中于关键环节。
AI 代理可用于检查 3D 场景、编写 OpenUSD 中的仿真相关数据、添加物理属性并渲染预检视图。相关工作流从 Blender 场景开始,最终生成可按 simulation-ready(SimReady)要求验证的 OpenUSD 交付结果。
Kubernetes v1.37 将 Pod-Level Resource Managers 功能提升至 Beta 阶段,默认关闭,可通过 PodLevelResourceManagers feature gate 启用。
Google Research在ACL 2026提出ToolGrad,通过API Proposer、API Executors、API Selector和LLM Updater迭代生成工具调用链、用户查询与AI回复。
推荐理由:提出先生成工具调用链、再反推用户提示的答案优先方法,并用多模块迭代降低数据生成成本,对构建训练数字代理的高质量工具使用数据具有直接参考价值。
Kubernetes v1.37 在 InPlacePodVerticalScalingSchedulerPreemption 特性门控下加入原地 Pod 扩容的调度器抢占功能。
推荐理由:介绍 Kubernetes v1.37 的 Alpha 调度器抢占机制,并给出启用条件、节点级禁用配置及 kind 集群验证流程,便于团队评估和测试原地 Pod 扩容场景。
Hugging Face Transformers 5.17.0 新增 Hy4-Preview、VibeVoice、NeoMME、Fun-ASR-Nano、KimiLinear、Canary 与 NeuCodec。该版本统一了视觉 2D/3D RoPE 实现,自定义相关逻辑的用户需迁移至 modeling_rope_utils.py;同时更新了生成、缓存、Kernels 与量化功能。
推荐理由:本次发布覆盖多类模型与底层优化,同时涉及视觉 RoPE 的不兼容调整;升级前应核对自定义模型实现与迁移需求。
面向欧盟数字产品相关组织,欧盟《网络韧性法案》(CRA)的下一项主要报告义务期限将于2026年9月11日到来。届时,适用组织须评估正在利用的漏洞和严重安全事件,协调内部响应,并在规定时限内提交通知。
Flock to Fedora 团队发布了2025年和2026年活动的会议录像,并公开了从直播文件到YouTube、PeerTube上线的处理过程。流程包括用电子表格整理素材、用LosslessCut切片和配置输出、生成缩略图,以及协作上传;针对约十段2025年录像缺少音频的问题,团队将源PCM音频转换为AAC后重新封装为MP4。
推荐理由:文章记录从直播原始文件到多平台发布的完整流程,涉及文件整理、LosslessCut、FFMPEG、缩略图和权限协作,并记录音频封装故障及修复方法,对维护活动录制和视频发布流程有实际参考价值。
Interop 2027提案征集已启动,面向改善Web互操作性的Focus Area提案提交期为9月3日至23日。成功提案须可测试,并已有W3C、TC39等成熟Web标准;测试不足的技术可考虑Interop Investigation。提案需通过GitHub issue提交,说明具体互操作问题、开发者或用户价值及WPT测试覆盖。
funes 为 Claude Code、Codex、pi 和 Hermes 提供本地运行的持久记忆层,通过增量索引、混合检索和重排序返回原始会话记录及来源。安装后可使用 recall 和 get 在对话中检索历史内容,也可用 ask 发起只读查询;绑定 Hugging Face dataset 后,记忆可跨机器使用,并在发布前进行凭据脱敏和秘密扫描。
推荐理由:介绍 funes 的本地记忆索引、跨代理检索与共享机制,并给出安装和查询方式,便于评估其隐私、溯源及协作价值。
Jennifer Kohl 介绍开源 SBX AI Evaluation Kit,用 Docker Sandboxes 统一执行 AI 评估命令并保存运行证据。工具不会运行模型或自动生成评估判断,而是通过执行器抽象、YAML 定义、结构化 JSON 记录和配置摘要,让本地与沙箱工作流更易重跑、检查和比较。
推荐理由:通过执行器抽象、YAML 定义、JSON 运行记录和配置摘要,帮助个人与小团队在本地或 Docker Sandboxes 中重跑、比较并检查 AI 评估流程。
AWS宣布已签署收购阿姆斯特丹公司DuckLabs的最终协议,DuckDB将继续以开源项目及MIT许可证独立运营。文章还介绍面向智能体资源发现与描述的Apache 2.0开放规范ARD,以及Amazon ECS、AWS Lambda、AWS IoT Core、Amazon GameLift Servers和Amazon SageMaker HyperPod的更新。
推荐理由:汇总了AWS收购DuckDB的最终协议、ARD开放规范及多项云服务更新,覆盖容器、Lambda、IoT、游戏服务器和SageMaker,适合了解近期AWS平台变化。
Tailscale 正从配置软件的网络工具扩展为可嵌入、可编程管理的网络平台。文章介绍用 tsnet 将 Go 应用接入 tailnet、通过 Tailnets API 按需创建隔离网络,以及用声明式策略管理跨 tailnet 共享;Declarative Node Sharing 目前需加入候补名单,tailscale-rs 仍处于 experimental(pre-alpha)阶段。
推荐理由:文章梳理了嵌入应用连接、隔离网络配置和策略化共享的实现路径,并明确当前可用、实验和候补状态,适合评估自动化接入方式。
Redis将CVE-2026-81934的公开CVSS评分更新为7.5(High),该漏洞是TLS待处理数据中的use-after-free问题。Redis建议尽快升级到已修复版本,并限制网络访问、强化认证和ACL;截至2026年8月27日,尚未发现客户环境遭到主动利用。
Safari Technology Preview 251 现已支持 macOS Golden Gate 和 macOS Tahoe 下载,已有用户可在“系统设置”的“软件更新”中升级。该版本包含 WebKit 变更 317935@main 至 319386@main,并新增多项 CSS、JavaScript、WebGPU、WebCodecs 与 Service Workers 支持。
Home Assistant 宣布首份用户调查的匿名结果现已免费公开。组织于2024年12月启动调查,希望直接听取社区反馈,使项目更包容、易于使用;原文称数据不包含可识别信息,并计划用于改进相关工作。
Rust 项目公布首批六名获得维护资助的贡献者,覆盖 rustup、Clippy、rustdoc、编译器、标准库等方向,相关支持至少持续 12 个月。项目按每周投入时间设置全职 MiR、半职 MiR 和 Maintainer Grant,资金来自 Rust Foundation Maintainers Fund,资助工作已开始,后续仍将持续寻找支持对象。
推荐理由:正式公布 Rust 首批六名维护者驻留与资助对象,明确全职、半职及维护者资助等级,能帮助生态参与者了解项目维护资金安排和参与路径。
Grafana Labs 发布开源 Grafana AI SDK for Go,为模型调用、流式响应、工具执行、结构化输出和多步 Agent 提供通用接口。SDK 支持 Anthropic、Amazon Bedrock、OpenAI Responses API 及 OpenAI-compatible APIs,并兼容 AI SDK React 前端 hooks。
推荐理由:提供面向 Go 的统一模型调用、流式响应、工具执行与可观测性接口,并公开兼容基线、示例和扩展路径,适合评估团队 AI 应用基础设施。