最好看的新闻,最实用的信息
12月24日 22.1°C-24.9°C
澳元 : 人民币=4.55
珀斯
今日澳洲app下载
登录 注册

英伟达AI芯片劲敌来了!AMD推出MI300X,可运行多达800亿参数模型(组图)

2023-06-14 来源: 华尔街见闻 原文链接 评论4条

AMD的“终极武器”来了!

美东时间6月13日,AMD在“AMD数据中心与人工智能技术首映会”上宣布,即将推出迄今为止最先进的人工智能GPU MI300X芯片,该芯片可以加快ChatGPT和其他聊天机器人使用的生成式人工智能的处理速度,并可以使用高达192GB的内存。MI300X的HBM密度高达英伟达AI芯片H100的2.4倍,HBM带宽高达H100的1.6倍,可以运行的模型比H100的更大。另外,AMD发布的其他新品已吸引硅谷巨头:亚马逊云运用四代EPYC 处理器打造实例;微软Azure推出搭载Genoa-X CPU的新实例;Meta计划使用AMD的新云芯片Bergamo。

英伟达AI芯片劲敌来了!AMD推出MI300X,可运行多达800亿参数模型(组图) - 1

相比之下,英伟达的H100芯片只支持120GB内存,市场普遍认为这意味着英伟达在这一新兴市场的主导地位或将受到挑战。MI300X将于今年晚些时候开始向部分客户发货。AMD CEO苏姿丰还介绍到,MI300X可以支持400亿个参数的Hugging Face AI 模型运行,并演示了让这个LLM写一首关于旧金山的诗。这是全球首次在单个GPU上运行这么大的模型。单个MI300X可以运行一个参数多达800亿的模型。

英伟达AI芯片劲敌来了!AMD推出MI300X,可运行多达800亿参数模型(组图) - 2

虽然投资者期待AMD能够在AI芯片领域与英伟达展开竞争,但分析师们并未跟风吹一波AMD的这一强大武器,而是很理智地指出,AMD想要在人工智能芯片领域挑战英伟达的行业龙头地位,还有很长的路要走,仅凭这款芯片并不能做到。

花旗芯片分析师 Chris Danely 在最新报告中表示,AMD的MI300芯片似乎在设计上取得了巨大的胜利,但考虑到性能的局限性和失败的历史,他对图形/CPU IC的可持续性表示怀疑,“虽然我们预计AMD将继续从英特尔那里获得市场份额,但其新的 Genoa 产品的增长速度似乎比预期的要慢”。

当日,Cambrian-AI Research LLC 创始人兼首席分析师 Karl Freund 也在福布斯上发文表示,虽然AMD新推出的这款芯片激起了市场各方的巨大兴趣,但与英伟达的H100芯片相比,MI300X面临着一些挑战,主要有以下四个方面:

第一,英伟达的H100今天开始全面出货;到目前为止,英伟达仍拥有AI行业最大的软件和研究人员生态系统。

第二,虽然MI300X芯片提供了192GB内存,但英伟达在这一点上将很快迎头赶上,甚至在相同的时间框架内可能实现反超,所以这并不是一个很大的优势。并且 MI300X 的售价将会十分高昂,与英伟达的H100相比不会有明显的成本优势。

第三才是真正的关键:MI300没有像H100那样的Transformer Engine(一个用于在英伟达GPU上加速Transformer模型的库),H100可以将大语言模型(LLM)的性能提高两倍。如果用几千个(英伟达的)GPU来训练一个新模型需要一年的时间,那么用AMD的硬件来训练可能需要再等2-3年,或者投入3倍的GPU来解决问题。

最后,AMD还尚未披露任何基准测试。但是训练和运行LLM时的性能取决于系统设计和GPU,所以很期待今年晚些时候能够看到一些与同业竞争对手的比较。

不过,Freund 也补充称,MI300X可能会成为英伟达GH200 Grace Hopper超级芯片的替代选择。像OpenAI和微软这样的公司需要有这样的替代品,虽然他怀疑AMD会给这些公司一个无法拒绝的报价,但AMD不会从英伟达那里抢走很多市场份额。

今年以来,AMD的股价已经上涨了94%,昨日美股收跌3.61%,而同行英伟达则收涨3.90%,市值首次收于1万亿美元关口上方。

事实上,英伟达的领先地位不仅来自于其芯片,还来自于十多年来为人工智能研究人员提供的软件工具。Moor Insights & Strategy 分析师 Anshel Sag 表示:“即使AMD在硬件性能方面具有竞争力,但人们仍然不相信其软件解决方案能与英伟达竞争。”

英伟达AI芯片劲敌来了!AMD推出MI300X,可运行多达800亿参数模型(组图) - 3

有望带动科技企业的良性竞争

美国科技类评论家 Billy Duberstein 12日指出,随着ChatGPT的火热,AI似乎开辟了新的领域,在许多行业的领先公司之间展开了一场竞赛,争相夺取市场份额。无论英伟达还是AMD赢得了这场竞赛,每家科技公司都会从中受益。

Duberstein 表示,潜在客户对MI300非常感兴趣。他引用《数字时报》6月8日的一篇文章称,数据中心客户正在强烈要求寻找英伟达的替代产品。目前英伟达在人工智能GPU这个高利润、高增长的市场占据主导地位,在AI服务器领域占据60%至70%的市场份额。

Duberstein 接着指出,鉴于目前英伟达H100的服务器价格高昂,数据中心运营商希望看到英伟达有一个第三方竞争对手,这有助于降低AI芯片的价格。因此,这对AMD来说是一个巨大的优势,对英伟达来说则是一个挑战。这能为每个市场参与者带来良好的盈利能力。

上个月,摩根士丹利分析师 Joseph Moore 调整了他对AMD人工智能收入的预期,称其可能比最初预期的高出“数倍”。

英伟达AI芯片劲敌来了!AMD推出MI300X,可运行多达800亿参数模型(组图) - 4

中国企业竞逐GPU AI产业链有望持续从中受益

目前全球各大科技企业都在争夺AI入场券。相比海外巨头,中国大科技公司采购GPU更为急迫。

据《晚点 LatePost》了解,今年春节后,拥有云计算业务的中国各互联网大公司都向英伟达下了大单。字节今年向英伟达订购了超过10亿美元的 GPU,另一家大公司的订单也至少超过10亿元人民币。而且仅字节一家公司今年的订单可能已接近英伟达去年在中国销售的商用GPU总和。

国金证券对AMD的新动作表示继续看好AI产业链。该机构认为,生成式AI的持续火爆,带动了AI芯片的强劲需求,英伟达二季度数据中心业务指引大超预期,台积电4nm、5nm、7nm产能利用率提升明显,都是最好的证明。

国金证券指出,根据产业链调研,光模块-DSP芯片龙头厂商表示AI相关业务未来有望快速增长;CPU/GPU均热片龙头公司表示AI GPU二、三季度环比大幅增长。服务器PCIe Retimer芯片龙头公司表示三季度需求加速,逐季向上。因此看好2024-2025年AI新品的拉货,AI产业链有望持续从中受益。

今日评论 网友评论仅供其表达个人看法,并不表明网站立场。
最新评论(4)
高瑞瑞
高瑞瑞 2023-06-14 回复
现在的科技竞争越来越激烈了,真的是只有强者才能生存啊。
陈小馨_
陈小馨_ 2023-06-14 回复
话说AMD的新动作看起来很有潜力,希望他们能给英伟达一点压力。
高思源
高思源 2023-06-14 回复
中国科技企业采购量越来越大,这让我有点担心英伟达的市场份额会不会被夺走。
舌尖上的程序员
舌尖上的程序员 2023-06-14 回复
这下子,英伟达要被AMD追上了吧?


Copyright Media Today Group Pty Ltd.隐私条款联系我们商务合作加入我们

电话: (02) 8999 8797

联系邮箱: [email protected] 商业合作: [email protected]网站地图

法律顾问:AHL法律 – 澳洲最大华人律师行新闻爆料:[email protected]

友情链接: 华人找房 到家 今日支付Umall今日优选