最好看的新闻,最实用的信息
12月23日 32.1°C-34.5°C
澳元 : 人民币=4.56
珀斯
今日澳洲app下载
登录 注册

从比特币到ChatGPT,背后两大赢家(组图)

2023-02-11 来源: 华尔街见闻 原文链接 评论0条

ChatGPT,近期互联网上最火的话题,谷歌、微软、百度等科技巨头们纷纷加入竞赛。   

 不过,今天见闻君不是要比较分析哪家的更有前景,而是想和大家聊一下背后的两大赢家。 

 ChatGPT强大的响应能力要归功于所经受的大量数据训练,这背后需要强大的算力部署,算力又取决于底层芯片,ChatGPT类竞赛必然会引发高端芯片的需求。 

 ChatGPT所回应的每一个字都很“烧钱”,而为算力花出去的真金白银最终流向的是AI芯片的领军者英伟达和先进制程寡头台积电的口袋。

 这一幕是不是似曾相识? 

 类似的剧情在比特币飙涨和“芯片荒”时期都曾上演。

从比特币到ChatGPT,背后两大赢家(组图) - 1

巨头火拼ChatGPT

在ChatGPT迅速蹿红之后,竞争者纷至沓来。先是谷歌宣布已向人工智能初创企业Anthropic投资约3亿美元,同时推出基于大型语言模型LaMDA的聊天机器人Bard,并宣布将嵌入其搜索引擎。

微软紧随其后,推出基于AI驱动的必应搜索引擎和Edge浏览器,以类似于ChatGPT的方式回答用户的搜索提问。

值得一提的是,2019年微软在ChatGPT的所有者OpenAI身上投入十亿美元,而在今年1月底微软宣布与OpenAI扩大合作伙伴关系,向OpenAI进行一项为期多年、价值数十亿美元的投资,以加速在人工智能领域的技术突破。

光投资合作还不够,微软亲自下场将ChatGPT技术整合到搜索引擎中,展现其向谷歌再次发起挑战的决心。在目前的全球搜索引擎市场中,谷歌依然是绝对的老大,地位几乎不可撼动,市场份额高达93%,微软旗下Bing以3%的份额排名第二。

国内巨头也不甘示弱,紧跟上这波AI热潮。百度“类ChatGPT应用”文心一言(ERNIE Bot)将在今年三月份完成内测,面向公众开放,内测包括答案回复、智能生成等。

阿里达摩院牵头的类ChatGPT对话机器人也正在研发中,目前已开放给公司内员工测阶段,可能将与钉钉深度结合。

从比特币到ChatGPT,背后两大赢家(组图) - 2

最重要的是算力

ChatGPT(Generative Pre-trained Transformer)强大的响应能力很大程度上要归功于所经受的大量数据训练。

目前的ChatGPT是基于GPT-3.5架构开发的对话AI模型,从模型的发展迭代过程来看,参数量的增长是爆炸式的。

2018年OpenAI推出GPT-1模型时,其参数量在1亿级别,预训练数据量也仅在5GB,同年谷歌推出的BERT模型参数量达3.4亿。

随后OpenAI奋起直追,分别于2019年和2020年迭代出GPT-2和GPT-3模型,到了GPT-3参数量已经增长至1750亿,预训练数据量也提升至45TB。

从比特币到ChatGPT,背后两大赢家(组图) - 3

如此大量的参数运算意味着ChatGPT需要强大的算力来支持其训练和部署,算力又取决于底层芯片。

相较于GPT模型参数量的增长,GPU芯片的容量从2017年V100的32GB提升至2020年A100的80GB,二者的增长显然不在同一量级。

因而要在基础模型上完成大规模预训练,需要导入的GPU数量至少要上万。

图:大型Transformer模型中的参数量呈指数级增长,但单个GPU内存仅以每2年增长2倍的速度增长

从比特币到ChatGPT,背后两大赢家(组图) - 4

ChatGPT迭代的过程中离不开微软的帮忙,微软Azure AI超级计算机为ChatGPT提供了训练支持。

根据微软公布的数据,为OpenAI开发的超级计算机是一个单一系统,拥有超过285,000个CPU、10,000个GPU和每个GPU服务器每秒400GB的网络连接,可比肩全球Top5的超级计算机。

ChatGPT的知识仍局限于2021年的数据,随着时间的推移还需要不断改进,模型的不断迭代对于算力的需求也会越来越大。

根据2018年OpenAI发布的一份研究,自2012年以来,AI训练运行中使用的计算量呈指数级增长,大约每隔3.4个月翻倍,相比之下,摩尔定律的倍增期为18-24个月。

从2012年到2018年,AI训练对于算力的消耗增长了30万倍,而摩尔定律在相同时间只产生了7倍的增长。

图:从AlexNet到AlphaGo Zero,计算能力提高30万倍

从比特币到ChatGPT,背后两大赢家(组图) - 5

数据来源:OpenAI

推动人工智能进步的关键因素包括算法创新、数据、以及可用于训练的计算量,算法创新和数据很难进行跟踪,但计算量是可量化的,更多的计算可以预见地会带来更好的性能,这又建立在硬件的基础上。

从比特币到ChatGPT,背后两大赢家(组图) - 6

背后赢家:英伟达和台积电

就AI芯片的市场格局来看,英伟达是全球GPU和AI计算平台的领军者,据Omdia的数据,2020年英伟达在用于云和数据中心的AI处理器市场占据了80.6%的收入份额。

另据IDC的数据,2021年英伟达在企业GPU市场的份额达到91.4%,而AMD仅8.5%,在Top500超级计算机中,近七成是由英伟达支撑的,上文提到的微软为OpenAI开发的超级计算机所用的GPU就是由英伟达提供的。图:四大云计算中专用加速器份额

从比特币到ChatGPT,背后两大赢家(组图) - 7

因而在这一轮ChatGPT的热潮下,英伟达的股价也闻风而动,1月底以来英伟达上涨16%。在智能手机、PC、ping ban遇冷后,上游芯片厂商的注意力转移到了AI领域。

英伟达之外,英特尔在接连收购Altera、Nervana、Movidius人工智能初创公司后积极追赶;AMD计划于今年推出Alveo V70 AI芯片新品;苹果M2系列芯片持续导入AI加速器设计。

2022年半导体行业陷入“寒冬”之际,英特尔、AMD迫切希望寻求到新的增长点,不过目前后面这几家还没能对英伟达形成冲击。

花旗预估,ChatGPT可能会在未来12个月内为英伟达带来30亿美元至110亿美元的销售额。

2022财年英伟达的收入达到创纪录的269亿美元,其中数据中心业务贡献了106亿美元,占总收入的40%。

随着芯片厂商相继进入新技术的大规模试制阶段,芯片制造资源的竞争也随即拉开,台积电的先进制程产能又成为了争抢的对象。

从比特币到ChatGPT,背后两大赢家(组图) - 8

先进制程产能和出货量方面,台积电一家独大。根据台积电最新发布的2022财年第四季度财报,四季度台积电实现营收205亿美元,两年来首次不及预期,但受益于先进制程营收占比的扩大,5nm制程营收占比32%,7nm营收占比22%,净利润(97亿美元)和毛利率(62.2%)双双创历史新高。

按产品类型划分,高性能计算(HPC)营收环比上涨4%,收入占比42%,连续取代传统强项智能手机业务(收入占比38%),稳坐台积电第一大收入来源。

从比特币到ChatGPT,背后两大赢家(组图) - 9

目前智能手机需求依旧疲软,原本已经进入量产阶段的3nm遭遇“砍单”,高额的成本令苹果和高通都谨慎起来。

此前台媒报道称,由于大厂开始调整订单,台积电2023年第一季度的产能利用率将大幅下降。公司N7线(7纳米、6纳米级技术)的利用率2023年初将下降到50%左右。

ChatGPT的迅速蹿红可能拯救了一把正愁找不到买家的台积电,近期传出英伟达、AMD同步向台积电下急单,相关芯片将在4月后逐步产出。

据研究机构Couterpoint预测,英伟达和AMD的新品集中在4nm和5nm,预计2023年下半年之后陆续推出采用台积电3nm制程的CPU和GPU产品,2023年台积电5纳米家族产能约半数由AMD与英伟达包办,另一半则由苹果拿下。

从比特币到ChatGPT,背后两大赢家(组图) - 10

再现比特币风潮?

这一幕似曾相识。比特币疯涨时期,水涨船高的挖矿收益带动矿机需求暴增,同高性能计算一样,挖矿对于算力的要求也很高,进而也驱动了对于先进制程的争夺。2017年比特币从2016年底的900多美元一路冲至近2万美元,一年之内最高上涨近20倍,矿机巨头的业绩也迎来集中爆发。

彼时占据全球矿机市场份额约七成的比特大陆2017年营收为25.17亿美元,较2016年的2.78亿美元翻了近8倍。比特大陆在2017年一举成为台积电前三大客户,矿机芯片占据了当年台积电全部销量的10%。

从比特币到ChatGPT,背后两大赢家(组图) - 11

资料来源:比特大陆招股说明书如今科技巨头们纷纷加入ChatGPT的竞赛,算力作为最重要的基础自然是不可或缺,而计算资源的背后又是芯片,因而ChatGPT竞赛开启的同时必然会引发高端芯片的需求,从而拉动价格的上涨,类似的剧情在比特币飙涨和“芯片荒”时期都曾上演。

目前英伟达A100GPU的采购成本在9000美元以上,另外根据2018年OpenAI披露的数据,进行训练的硬件购买成本在数百万美元。

无论是开发训练还是后续的运营,ChatGPT所回应的每一个字都很“烧钱”。科技巨头在台前靠AI技术收割流量,为算力花出去的真金白银最终流向的是英伟达和台积电的口袋。

今日评论 网友评论仅供其表达个人看法,并不表明网站立场。
最新评论(0)
暂无评论


Copyright Media Today Group Pty Ltd.隐私条款联系我们商务合作加入我们

电话: (02) 8999 8797

联系邮箱: [email protected] 商业合作: [email protected]网站地图

法律顾问:AHL法律 – 澳洲最大华人律师行新闻爆料:[email protected]

友情链接: 华人找房 到家 今日支付Umall今日优选