英伟达AI芯片劲敌来了!AMD推出MI300X,可运行多达800亿参数模型(组图)
AMD的“终极武器”来了!
美东时间6月13日,AMD在“AMD数据中心与人工智能技术首映会”上宣布,即将推出迄今为止最先进的人工智能GPU MI300X芯片,该芯片可以加快ChatGPT和其他聊天机器人使用的生成式人工智能的处理速度,并可以使用高达192GB的内存。MI300X的HBM密度高达英伟达AI芯片H100的2.4倍,HBM带宽高达H100的1.6倍,可以运行的模型比H100的更大。另外,AMD发布的其他新品已吸引硅谷巨头:亚马逊云运用四代EPYC 处理器打造实例;微软Azure推出搭载Genoa-X CPU的新实例;Meta计划使用AMD的新云芯片Bergamo。
相比之下,英伟达的H100芯片只支持120GB内存,市场普遍认为这意味着英伟达在这一新兴市场的主导地位或将受到挑战。MI300X将于今年晚些时候开始向部分客户发货。AMD CEO苏姿丰还介绍到,MI300X可以支持400亿个参数的Hugging Face AI 模型运行,并演示了让这个LLM写一首关于旧金山的诗。这是全球首次在单个GPU上运行这么大的模型。单个MI300X可以运行一个参数多达800亿的模型。
虽然投资者期待AMD能够在AI芯片领域与英伟达展开竞争,但分析师们并未跟风吹一波AMD的这一强大武器,而是很理智地指出,AMD想要在人工智能芯片领域挑战英伟达的行业龙头地位,还有很长的路要走,仅凭这款芯片并不能做到。
花旗芯片分析师 Chris Danely 在最新报告中表示,AMD的MI300芯片似乎在设计上取得了巨大的胜利,但考虑到性能的局限性和失败的历史,他对图形/CPU IC的可持续性表示怀疑,“虽然我们预计AMD将继续从英特尔那里获得市场份额,但其新的 Genoa 产品的增长速度似乎比预期的要慢”。
当日,Cambrian-AI Research LLC 创始人兼首席分析师 Karl Freund 也在福布斯上发文表示,虽然AMD新推出的这款芯片激起了市场各方的巨大兴趣,但与英伟达的H100芯片相比,MI300X面临着一些挑战,主要有以下四个方面:
第一,英伟达的H100今天开始全面出货;到目前为止,英伟达仍拥有AI行业最大的软件和研究人员生态系统。
第二,虽然MI300X芯片提供了192GB内存,但英伟达在这一点上将很快迎头赶上,甚至在相同的时间框架内可能实现反超,所以这并不是一个很大的优势。并且 MI300X 的售价将会十分高昂,与英伟达的H100相比不会有明显的成本优势。
第三才是真正的关键:MI300没有像H100那样的Transformer Engine(一个用于在英伟达GPU上加速Transformer模型的库),H100可以将大语言模型(LLM)的性能提高两倍。如果用几千个(英伟达的)GPU来训练一个新模型需要一年的时间,那么用AMD的硬件来训练可能需要再等2-3年,或者投入3倍的GPU来解决问题。
最后,AMD还尚未披露任何基准测试。但是训练和运行LLM时的性能取决于系统设计和GPU,所以很期待今年晚些时候能够看到一些与同业竞争对手的比较。
不过,Freund 也补充称,MI300X可能会成为英伟达GH200 Grace Hopper超级芯片的替代选择。像OpenAI和微软这样的公司需要有这样的替代品,虽然他怀疑AMD会给这些公司一个无法拒绝的报价,但AMD不会从英伟达那里抢走很多市场份额。
今年以来,AMD的股价已经上涨了94%,昨日美股收跌3.61%,而同行英伟达则收涨3.90%,市值首次收于1万亿美元关口上方。
事实上,英伟达的领先地位不仅来自于其芯片,还来自于十多年来为人工智能研究人员提供的软件工具。Moor Insights & Strategy 分析师 Anshel Sag 表示:“即使AMD在硬件性能方面具有竞争力,但人们仍然不相信其软件解决方案能与英伟达竞争。”
有望带动科技企业的良性竞争
美国科技类评论家 Billy Duberstein 12日指出,随着ChatGPT的火热,AI似乎开辟了新的领域,在许多行业的领先公司之间展开了一场竞赛,争相夺取市场份额。无论英伟达还是AMD赢得了这场竞赛,每家科技公司都会从中受益。
Duberstein 表示,潜在客户对MI300非常感兴趣。他引用《数字时报》6月8日的一篇文章称,数据中心客户正在强烈要求寻找英伟达的替代产品。目前英伟达在人工智能GPU这个高利润、高增长的市场占据主导地位,在AI服务器领域占据60%至70%的市场份额。
Duberstein 接着指出,鉴于目前英伟达H100的服务器价格高昂,数据中心运营商希望看到英伟达有一个第三方竞争对手,这有助于降低AI芯片的价格。因此,这对AMD来说是一个巨大的优势,对英伟达来说则是一个挑战。这能为每个市场参与者带来良好的盈利能力。
上个月,摩根士丹利分析师 Joseph Moore 调整了他对AMD人工智能收入的预期,称其可能比最初预期的高出“数倍”。
中国企业竞逐GPU AI产业链有望持续从中受益
目前全球各大科技企业都在争夺AI入场券。相比海外巨头,中国大科技公司采购GPU更为急迫。
据《晚点 LatePost》了解,今年春节后,拥有云计算业务的中国各互联网大公司都向英伟达下了大单。字节今年向英伟达订购了超过10亿美元的 GPU,另一家大公司的订单也至少超过10亿元人民币。而且仅字节一家公司今年的订单可能已接近英伟达去年在中国销售的商用GPU总和。
国金证券对AMD的新动作表示继续看好AI产业链。该机构认为,生成式AI的持续火爆,带动了AI芯片的强劲需求,英伟达二季度数据中心业务指引大超预期,台积电4nm、5nm、7nm产能利用率提升明显,都是最好的证明。
国金证券指出,根据产业链调研,光模块-DSP芯片龙头厂商表示AI相关业务未来有望快速增长;CPU/GPU均热片龙头公司表示AI GPU二、三季度环比大幅增长。服务器PCIe Retimer芯片龙头公司表示三季度需求加速,逐季向上。因此看好2024-2025年AI新品的拉货,AI产业链有望持续从中受益。