NVIDIA扩展TensorRT性能优化路径
热点事件持续更新
NVIDIA扩展TensorRT性能优化路径
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
NVIDIA推出 Global Performance Tuner，将 TensorRT 推理引擎的性能优化从单一构建路径扩展到多方案联合调优。工具在构建阶段协同处理相互依赖的图 IR 转换、算子融合、实现选择、内存放置和量化等决策，而非仅把训练完成的神经网络逐个算子转换为 GPU kernel。
AI 根据报道生成 · 1 小时前更新
最新进展10月24日 01:27
借助 Global Performance Tuner 将 NVIDIA TensorRT 性能优化扩展至单一构建路径之外（上）报道时间线
沿着报道，了解事件的不同侧面。
10月24日
- NVIDIA Developer Blog借助 Global Performance Tuner 将 NVIDIA TensorRT 性能优化扩展至单一构建路径之外（上）
Global Performance Tuner 将 NVIDIA TensorRT 性能优化扩展到单一构建路径之外。TensorRT 构建推理引擎时，会对相互依赖的 graph-IR 转换、融合、实现选择、内存放置和量化作出调度决策；部署训练完成的神经网络并非简单地将每个算子转换为 GPU kernel，而是一个存在多种可行方案的编译问题。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。