AI编程Agent仅用10小时搭建类CUDA软件，英伟达20年护城河遭遇AI冲击

2026年8月5日消息，据量子位报道，成立仅一年的AI软件初创公司Infinity利用自研AI编程Agent Ignition，仅花费10小时就为AI推理芯片公司d-Matrix搭建出一套类CUDA底层软件，引发行业对英伟达CUDA护城河的广泛讨论。

CUDA是英伟达花费近20年打造的GPU软件生态核心，从底层Kernel编译器到cuBLAS、cuDNN等优化计算库，再到PyTorch、TensorFlow等上层框架，构成了客户难以迁移的完整软件帝国。然而，AI Agent正在改变这一格局。

核心事件：

Infinity创始人Jeremy Nixon（前Google Brain研究员）带领团队开发的Ignition Agent，专门为不同AI芯片编写底层软件。它能自动生成GPU Kernel、运行测试、寻找错误、测量性能，并根据结果自动改写代码——人类工程师只需给出高层方向。

• 10小时成果：为d-Matrix推理芯片搭建完整的类CUDA底层软件，包括推理Kernel生成与优化
• 融资进展：Infinity已获得1500万美元融资，估值达1亿美元
• DeepSeek同步行动：开源TileKernels GPU算子库，使用TileLang编写，省去大量手写底层CUDA代码

推理侧成为突破口：

行业专家指出，训练侧CUDA地位依然稳固——大规模训练对性能、稳定性和集群协同要求极高，企业选择训练平台时极其保守。但推理侧游戏规则完全不同：

• 推理任务在乎"每个回答的成本"而非极致性能
• 推理可拆分到小集群甚至单卡运行，客户愿意尝试新方案
• 跨芯片推理框架可打破CUDA锁定效应
• d-Matrix、Rebellions、Cerebras、亚马逊Inferentia、谷歌TPU、AMD MI300X等已在推理市场排兵布阵

英伟达护城河远未颠覆：

多位行业专家泼了冷水。INT21创始人Bing Xu（前英伟达员工，其公司HippoML被英伟达收购）指出："Agent能在短时间内生成大量代码，但验证才是最大瓶颈。"CUDA最深的资产恰恰是其验证工具链，Agent时代验证生态可能成为CUDA的下一道护城河。

Modular CEO Chris Lattner（LLVM、Swift之父）认为编码Agent带来的改进是渐进式的，"炒作被严重夸大"：生产级优化才决定芯片性能，芯片软件领域公开训练数据远少于应用开发，数百万行存量代码的迁移成本属于组织决策问题而非技术问题。

值得注意的是，英伟达自己也在使用AI Agent加速CUDA开发和大规模验证。正如Bing Xu总结："这场仗的胜负，取决于竞争对手追赶英伟达的速度，能否快过英伟达自我迭代的速度。"

短期内英伟达的护城河安然无恙，但变化正在推理侧悄然发生。长期真正的悬念是：护城河正在从"代码的存量"迁移到"验证和优化的生态"，谁先占住新位置，谁才是下一个赢家。