NVIDIA Developer Blog· Tanya Lenz·· 4 小时前AI 评分26
NVIDIA CUDA Tile 用高性能前向内核加速 Mamba-2
Accelerating Mamba-2 with High-Performance Forward Pass Kernels in NVIDIA CUDA Tile
AI 导读
NVIDIA CUDA Tile（cuTile）提供用于加速 Mamba-2 的高性能前向内核。它是一款面向 NVIDIA GPU 的 Python DSL 与并行编程模型，通过 tile 级高级原语抽象线程和 warp 调度，并由编译器优化 GPU 内核性能。
来源：NVIDIA Developer Blog · developer.nvidia.com