Claude三天改写AMD GPU内核,CUDA迁移成本被压低了吗

先把结论摆在前面:这次被缩短的,不是CUDA的全部寿命,而是一段过去必须由人工填上的迁移工期。

Anthropic在IPO路演中披露,Claude Mythos Preview大约用了三天,在基本没有人工干预的情况下,完成了核心GPU底层计算内核的移植与重写,让Claude在AMD旗舰GPU上跑通关键推理环节。按公司说法,几乎100%的底层内核由Claude独立移植或编写。

但口径要看全。路演图表附注写的是:某款Claude模型的提示词处理阶段(Prefill),在配备288GB HBM3E显存的AMD Instinct MI355X上达到可用性能。Prefill负责并行处理输入上下文,是计算密集型环节;后半段逐字生成的Decode更依赖多卡互联和低延迟。Anthropic没有公布吞吐基准,也没有给出性能损耗对照。所以,三天跑通的是一个关键切片,不是整个系统端到端重写,更不是万卡集群的长期稳定运行。

GPU内核是什么?可以把它理解成直接贴着硬件写的微程序。矩阵乘法、注意力计算、激活和归一化,最后都要落到这些内核上。英伟达的CUDA代码不能直接搬到AMD上满血运行:英伟达按32线程的Warp调度,AMD CDNA架构用64线程的Wavefront;共享内存、寄存器堆、访存冲突的规则也不同。改错一处,轻则流水线停顿,重则显存溢出。这不是把Python代码换个写法,是重新调教物理计算效率。

过去,把大模型适配到一款新芯片,通常要几十名编译器和高性能计算工程师攻坚6到12个月。今年7月,AMD给Anthropic一台MI355X服务器,一名工程师把机器控制接口接入Claude,布置硬件适配任务,然后让系统在周末无人值守地跑。周一回来看监控,性能曲线已经在模型自主调优下往上走。这个细节比“三天”更有意味:人定目标,模型自己改代码、跑测试、看性能分析器、再改。

那CUDA护城河呢?有投资人直接说它已经不复存在。这个话太满。CUDA不只是算子库,还包括编译链、通信库、性能分析工具、框架默认路径,以及二十年积累的踩坑经验。跑通一个推理阶段,和支撑大规模生产,中间隔着可靠性、运维和生态惯性。

真正变化的是成本结构。AMD有ROCm、HIP、HIPIFY,行业里也有Triton这类跨硬件工具,但自动转换常常停在“能编译”,深度优化的算子仍要专家手动调。若AI能读硬件文档、重写内核、在真实硬件上跑测试,再根据寄存器占用和访存瓶颈自我修正,迁移账本里最贵的那一栏——稀缺工程师工时——就会往下掉。企业换芯片时,专家工时和业务中断风险是大头。大头松一点,采购逻辑就会变。

商业上,双方已经绑在一起。7月22日,AMD与Anthropic宣布合作:Anthropic计划部署最高2GW的AMD Instinct MI450系列GPU集群,首期1GW预计2027年上半年上线;AMD承诺最高50亿美元战略股权投资;双方还要用Claude优化AMD GPU负载,并加速ROCm软件栈开发。对AMD,这是借AI补软件短板;对Anthropic,这是多一个算力来源。

所以,CUDA迁移成本被压低了吗?在这个特定环节,是的,而且压得很明显。但把它说成CUDA没了,是把一次工程验证当成了整个生态的葬礼。更准确的说法是:迁移账本上最贵的那一栏,第一次出现了自动化的报价。