据业内传出的消息,Anthropic 旗下的 Claude Mythos 用了 3 天时间,在几乎不需要人盯着的情况下,把 AMD MI355X 芯片近 100% 的底层内核代码写完了。同样一件事,按常规做法要几十个资深工程师干 6 到 12 个月。也就是说,原本以季度计的适配周期,被压到了 72 小时。
实测数字是:移植完之后模型跑起来,性能跟英伟达 CUDA 优化过的方案只差 8% 到 12%。这个差距听起来不小,但已经落在可以商用的区间里——不是“能跑就行”的演示,是能拿去接活的水平。
这件事份量重在哪,得从英伟达的护城河说起。这么多年来真正把对手挡在外面的不是芯片硬件本身,而是 CUDA 那套攒了十几年的软件生态:算子库、编译器、调试工具、无数工程师踩过的坑。别的芯片厂硬件做得出来,卡就卡在软件移植这一步,人不够、时间不够、坑太多。现在一个模型三天写完内核,等于把这道门槛的定价重新算了一遍。
商业上的动作也跟上了。Anthropic 目前已经和 AMD 达成最高 2 吉瓦的算力供应合作,这个量级不是试用,是长期采购的架子。
不过别急着宣布 CUDA 完蛋。这轮突破主要覆盖的是推理的预填充环节,也就是模型读入上下文那一段。真正难的是超大规模分布式训练里的多卡协同——几千张卡之间怎么同步、怎么容错、怎么把通信开销压下去,这些地方英伟达积累的工程经验仍然明显领先,短期内动不了。
boxiyunAI的看法
- 3 天对 6 到 12 个月,这个倍数不是“效率提升”,是量级变化。它意味着芯片厂以后不必先养一支几百人的软件团队才敢发卡,生态壁垒从“人力密集型”变成了“算力密集型”。
- 8% 到 12% 的性能差距,放在采购决策里其实很微妙。如果 AMD 卡本身便宜两三成,加上这点性能损失,账还是划得来的——真正劝退买家的从来不是跑分,是“迁移要一年、迁移完还可能踩坑”。
- 要注意消息来源是“业内传出”,不是官方技术报告。内核代码写完到生产环境稳定跑起来,中间还有编译器版本、精度对齐、算子边界这些细活,真到大规模上线才算数。
- 这件事对国产算力厂商的启示比对英伟达的威胁更直接。软件适配一直是国产卡最难啃的一块,如果模型能代劳,追赶周期会明显缩短,前提是这些厂商愿意把底层代码开放给模型去看。
把三件事连起来看就清楚了:Claude 三天写完 AMD 的内核、Anthropic 跟 AMD 签了 2 吉瓦的供电协议、英伟达还在多卡训练上占着绝对优势。这不是谁取代谁,是算力供应链从“一家独供”慢慢变成“几家分工”——推理归推理,训练归训练,谁的性价比好用谁的。
对做应用的人来说,这件事的实际影响会来得晚一些,但方向明确:底层芯片卷起来,推理价格就会往下走。等到换卡的成本低到可以忽略,模型选型和硬件选型就能分开谈,不用再被一套生态绑住。