跳到正文
原文
NVIDIA Developer Blog· Tanya Lenz·· 11 天前AI 评分40

使用 NVIDIA Confidential Computing 启用私密高性能生产级 AI 推理

Enabling Private High-Performance Production AI Inference with NVIDIA Confidential Computing

AI 导读

NVIDIA Confidential Computing(CC)通过采用内存加密的机密虚拟机(CVM)和机密 GPU,为大语言模型推理工作负载提供安全运行路径。该方案面向处理敏感信息及专有模型上下文的个人、企业和受监管环境,使数据在可信环境内完成处理。

来源:NVIDIA Developer Blog · developer.nvidia.com