OpenAI内乱竟因这封信?警告AI重大新突破或危及人类(组图)
OpenAI“宫斗”大结局后,Altman“被离职”的原因流出,竟然是因为一封信?
据知情人士向路透社透露,几名研究人员在Altman离职的四天前(当地时间上周一)向董事会发出了一封信,表示一项新发现可能威胁人类。媒体猜测,这封信成为OpenA此次“宫斗”大戏的导火索。
知情人士透露:微软CEO Satya Nadella周三告诉员工,这封有关AI模型Q*实现突破的信件促使董事会采取了行动。
报道发出后,马斯克在X平台对路透社该篇报道置评:极度令人担忧。
Altman在上周四曾公开透露过这项技术进展。据知情人士向媒体透露,这项技术由OpenAI前首席科学家Ilya Sutskever牵头,和使用计算机生成的数据来帮助训练模型有关,而此前大模型训练的数据大多源于网络个人数据。
媒体还报道称,OpenAI两位高级研究人员Jakub Pachocki 和 Szymon Sidor在该技术基础上构建了模型“Q*”(发音为 Q-Star),该模型能够解决此前从未见过的数学问题。一些内部人士向媒体透露,这或将为OpenAI实现超级智能(即通用人工智能AGI)寻求突破提供可能性。
在上周提及这项技术时,Altman称其能够“揭开未知的面纱,推动发展的前沿”。
不过,还有媒体出面佐证这封信直接导致OpenAI内乱,论据有二:首先是Sutskever对该技术持保留态度,领头参与了这次高调罢免Altman的风波。作为AI保守派,在今年7月时,Sutskever就组建了一个团队,致力于限制AI潜在的安全威胁。
其次是,在Altman离开后,高级研究员Szymon Sidor、Jakob Pachocki和总裁Greg Brockman相继辞职的事实也证实了双方在商业化和安全性方面的观念分歧。
此前见闻君文章指出,Altman重返任CEO,董事会也大换血。11月22日,OpenAI在X上宣布,公司已原则上达成协议,Sam Altman重返OpenAI担任首席执行官,并与新组建的董事会一同回归。
我们已经达成原则性协议,Sam Altman将回到OpenAI担任首席执行官,并与Bret Taylor(主席)、Larry Summers和Adam D’angelo组成新的初始董事会。
我们正在合作解决细节问题。非常感谢您的耐心等待。
作为Altman“回归”的先决条件,此前与他矛盾最多的董事会也完成了成员洗牌。
此次新董事会成员中,Bret Taylor曾任Salesforce联合CEO,现任Facebook首席技术官,负责长期技术发展方向管理,并主持开发了News Feed(新鲜事)、搜索以及Facebook平台;Larry Summers为美国前任财政部长。
OpenAI的董事会此前由六人组成,三名OpenAI高管,三名非员工董事,包括:董事长兼总裁Greg Brockman、首席科学家Ilya Sutskever和首席执行官Altman,以及Adam D'Angelo、Tasha McCauley 和 Helen Toner组成。
在Altman与Brockman离开后,OpenAI董事会仅剩首席科学家Ilya Sutskever以及三位独立董事。
由OpenAI此次宣布的“新董事会名单”看,除了Adam D'Angelo,原本主导了此次“宫变”的首席科学家Ilya Sutskever、Tasha McCauley和Helen Toner已经出局。
据知情人士对媒体表示,OpenAI董事会人选被证明是最大症结所在,Altman最终可能会加入董事会。OpenAI还在决定留下哪些现任董事会成员。
另外还有消息称,微软可能会在OpenAI董事会拥有代表人员。