NVIDIA Developer Blog· Luca Spindler·· 2 天前AI 评分52
使用 C++、ONNX Runtime 和 NVIDIA TensorRT RTX 构建本地 AI 应用示例
Build Local AI Apps with C++ and NVIDIA TensorRT RTX Samples
AI 导读
Do Inference Now (DIN) Deploy 是一组开源 C++ 示例,将 ONNX Runtime 与 NVIDIA TensorRT RTX execution provider 结合,用于把模型检查点接入本地原生应用。该项目面向需要可移植模型格式、可靠运行时及跨目标系统加速的开发者。
来源:NVIDIA Developer Blog · developer.nvidia.com