NVIDIA Developer Blog· Tanya Lenz·· 3 小时前AI 评分51
使用Global Performance Tuner扩展NVIDIA TensorRT性能优化,Part 2
Scaling NVIDIA TensorRT Performance Optimization Beyond a Single Build Route with the Global Performance Tuner, Part 2
AI 导读
Global Performance Tuner是NVIDIA TensorRT 11.1发布的自动性能调优功能。该功能可在TensorRT内执行兼顾准确性与端到端性能的自动调优,并为不同模型定制不同的优化方式。
来源:NVIDIA Developer Blog · developer.nvidia.com