OpenAI高层巨变:联创辞职总裁休假 网友:领导层成了空壳

刚刚,OpenAI高层大地震:

联创John Schulman辞职跑路,联创&总裁Greg Brockman长期休假,产品副总裁Peter Deng也被曝离职。

OpenAI高层巨变:联创辞职总裁休假 网友:领导层成了空壳

John Schulman(约翰·舒曼),长年领导OpenAI强化学习团队,被誉为ChatGPT架构师。

也是他在Ilya Sustkever离开之后,临时接管了超级对齐团队。

现在他宣布做了一个艰难的决定,加入隔壁Anthropic,也就是Claude团队。

OpenAI高层巨变:联创辞职总裁休假 网友:领导层成了空壳

与此同时,OpenAI总裁Greg Brockman也宣布将休长假,直到年底。

OpenAI计划10月1日起在全球各地举办开发者日等活动,他也将缺席。

OpenAI高层巨变:联创辞职总裁休假 网友:领导层成了空壳

Brockman自述是在连续工作了9年之后第一次放松,但对年底之后的计划说的比较模糊,也有网友认为是出于保密协议。

OpenAI高层巨变:联创辞职总裁休假 网友:领导层成了空壳

在舒曼离职官宣20分钟后,奥特曼在回复中感谢了舒曼的贡献,以及回忆了两人2015年初次见面时的情景。

但截至目前,奥特曼没有对Brockman休假做任何回应。

OpenAI高层巨变:联创辞职总裁休假 网友:领导层成了空壳

奥特曼平常有打字句首字母和i不用大写字母的习惯,但每当重要同事选择离开时,他都会表现得更正式一些。

OpenAI高层巨变:联创辞职总裁休假 网友:领导层成了空壳

著名OpenAI内幕爆料账号苹果哥表示:现在领导层已经成了一个空壳,你们还是赶紧发布产品吧。

OpenAI高层巨变:联创辞职总裁休假 网友:领导层成了空壳

ChatGPT架构师离职

舒曼本科在加州理工学习物理,在UC伯克利短暂学习过神经科学,后来师从强化学习大牛Pieter Abbeel,完成计算机科学博士学位。

在他成为OpenAI联创时,博士还未毕业。

OpenAI是他在实习之外工作过的第一家也是唯一一家公司。

OpenAI高层巨变:联创辞职总裁休假 网友:领导层成了空壳

他的代表作、最高引论文PPO,也就是ChatGPT核心技术RLHF中选用的强化学习算法。

OpenAI高层巨变:联创辞职总裁休假 网友:领导层成了空壳

后来在从GPT-3.5、GPT-4到GPT-4o的一系列工作中都领导了对齐/后训练团队。

这次他自述的离职原因也是与此相关:

希望加深对AI对齐的关注,并开启我职业生涯的新篇章,让我可以重返实际的技术工作。

不过他也给足了OpenAI面子,补充到不是因为OpenAI缺乏对安全对齐工作的支持而离开,只是出于个人希望集中精力。

在ICML2023的演讲中,舒曼自述过个人接下来关注的研究方向之一:如何避免过度优化。

ChatGPT 中的一些令人讨厌的行为(例如过度道歉)是过度优化的结果。

RLHF很容易对狭窄的指标进行过度优化,例如模型可能学会了能获得奖励的捷径,但没有真正理解。

适当的对话任务训练需要推理、换位思考和知识,研究人员必须精心设计训练过程、奖励功能和数据集

奖励信号必须评估整个对话的质量,而不仅仅是个别反馈。

OpenAI高层巨变:联创辞职总裁休假 网友:领导层成了空壳

在今年五月份与播客主持人Dwarkesh Patel访谈时,舒曼也表示,算力应该更多从预训练向后训练转移。

OpenAI高层巨变:联创辞职总裁休假 网友:领导层成了空壳

OpenAI人才持续流失

由于在AI安全方面理念和奥特曼不合,OpenAI的人才发生了大量流失。

今年5月,超级对齐团队的两名负责人——首席科学家Ilya Sutskever和RLHF发明者之一Jan Leike,在同一天内相继离开OpenAI。

OpenAI高层巨变:联创辞职总裁休假 网友:领导层成了空壳

彼时离超级对齐团队的成立,过去还不到一年。

Jan Leike离开后更是连发十几条推文,对着OpenAI疯狂炮轰,控诉其没有兑现20%算力的承诺,并且对安全的重视程度远不及产品。

后来,Jan Leike选择加入了OpenAI的竞争对手Anthropic,继续进行超级对齐的研究。

在GPT-4项目上与Jan Leike共同领导对齐工作的Ryan Lowe,也已于3月底离开OpenAI。

还有超级对齐成员之一William Saunders,以及参与过GPT-4对抗性测试的Daniel Kokotajlo,也都从OpenAI离职。

更不必说隔壁Anthropic的创始人Dario Amodei和Daniela Amodei兄妹,也是OpenAI出身。

哥哥Dario离开前是OpenAI的研究副总裁,妹妹Daniela则是安全与策略部门副总监,走的时候还把GPT-3首席工程师Tom Brown等十几名员工一起带到了Anthropic。

导致他们选择出走创业的原因之一,就是OpenAI在安全问题尚未解决的情况下就直接发布了GPT-3,引发了他们的不满。

对安全的重视,加上创始人的背景,也让Anthropic成为了包括Jan Leike和这次离职的舒曼在内的OpenAI员工的主要去处之一。

OpenAI高层巨变:联创辞职总裁休假 网友:领导层成了空壳

OpenAI这边最近在安全工作上也有所动作——

7月末,OpenAI把安全部门高级主管Aleksander Madry调离了安全岗位,并给他重新分配了AI推理的工作。

但OpenAI告诉媒体,Madry到了新职位上之后,仍将致力于人工智能安全工作。

CEO奥特曼也是强调,OpenAI一直都很重视安全工作,并坚持了给整个安全团队至少20%算力的承诺。

OpenAI高层巨变:联创辞职总裁休假 网友:领导层成了空壳

但眼尖的网友很快发现,奥特曼玩了一波偷换概念,原来承诺的的是给超级对齐团队20%算力,被偷偷改成了全部安全团队。

所以,在奥特曼的推文之后,网友也是毫不留情地把这一背景信息添加了上去,并附上了当时OpenAI的官方链接。

OpenAI高层巨变:联创辞职总裁休假 网友:领导层成了空壳

emm互联网还是有记忆的。

One More Thing

在内部大量人才流失的同时,OpenAI的老仇人马斯克这边也有新的动作——

马斯克刚刚再一次把OpenAI告上了法庭,一同被告的还有奥特曼以及总裁Brockman。

这次起诉的理由是,马斯克认为自己参与创立OpenAI之时受到了奥特曼和Brockman的欺骗和敲诈勒索。

OpenAI高层巨变:联创辞职总裁休假 网友:领导层成了空壳

马斯克称,自己当初参与并投资OpenAI就是因为相信了奥特曼的话,当时奥特曼承诺OpenAI是一个安全、开放的非营利组织。

但后来OpenAI成为了营利性组织,还把一部分股份卖给了微软,这让马斯克感到十分不满,认为自己遭到了背叛,痛斥奥特曼背信弃义。

马斯克的律师Marc Toberoff表示,此次诉讼和之前撤回的那起有很大差别,要求被告对故意向马斯克和公众做出虚假陈述的行为负责,并寻求大规模追回他们的不义之财。

同时,起诉书还要求撤销OpenAI对微软授予的许可。

参考链接:

[1]https://www.bloomberg.com/news/articles/2024-08-06/openai-co-founder-john-schulman-departs-for-ai-rival-anthropic

[2]https://www.cnbc.com/2024/07/23/openai-removes-ai-safety-executive-aleksander-madry-from-role.html

[3]https://x.com/sama/status/1818867964369928387

[4]https://www.documentcloud.org/documents/25031741-elon-vs-openai-again

[5]https://www.nytimes.com/2024/08/05/technology/elon-musk-openai-lawsuit.html

以上就是关于【OpenAI高层巨变:联创辞职总裁休假 网友:领导层成了空壳】的相关消息了,希望对大家有所帮助!

文章来源于网络。发布者:北方经济网,转转请注明出处:https://www.hujinzicha.net/2024/08/06/10787.html

(0)
北方经济网的头像北方经济网
上一篇 2024 年 8 月 6 日 下午3:30
下一篇 2024 年 8 月 6 日 下午3:30

相关推荐

  • 溴酸盐事件:揭开“饮用天然水”与“天然矿泉水”之谜

    溴酸盐事件:揭开“饮用天然水”与“天然矿泉水”之谜 7月15日,香港消费者委员会公布了一项测试结果,他们在市面收集的30款瓶装水中,发现来自内地的百岁山和农夫山泉样本含有每升3微克的溴酸盐,这一数值达到了欧盟针对经臭氧处理矿泉水和泉水设定的最大限值,但远低于其他国际组织规定的标准,例如美国、日本、英国及世界卫生组织的标准为每升10微克。随后,7月18日,香港…

    2024 年 7 月 31 日
    7400
  • 这或许是奥特曼和扎克伯格的不同 AI情感交互的未来愿景

    8月1日,OpenAI宣布即将推出ChatGPT的高级语音模式,但这项升级暂时仅供ChatGPT Plus的少量订阅用户享用。这项功能实际上在5月份伴随GPT-4的发布有过展示,它能让AI助手以更加生动和互动的方式参与交流,包括讲述故事、变换声音甚至根据手机摄像头捕捉的画面做出回应。然而,由于安全顾虑,该功能的正式推出被延后。 OpenAI的CEO Sam …

    2024 年 8 月 3 日
    5100
  • 质感提升!联力A3-mATX木纹版机箱首发499元

    快科技9月12日消息,联力A3-mATX木纹版机箱目前已经上市开售,首发499元。 据悉,新款机箱是在A3-mATX的基础上将原有前面板所用的塑料材质,改成了更优雅的木质材料,保留了原来的竖直条纹,给人一种温暖的感觉,同时保持了在散热方面的优化设计。 A3-mATX木纹版机箱,其紧凑的机身尺寸为443 x 194×321.5 mm,专为追求空间高…

    2024 年 9 月 12 日
    2600
  • 吴克群为读错地名道歉 诚恳认错显风度

    10月5日晚,歌手吴克群在微博上发表了一则消息,自谦地提到自己“吃了没文化的亏”,并为此致歉。此前一天,他在中国(仙桃)超级焰火群星狂欢节的第三日演出中,演绎了包括《将军令》、《为你写诗》和《时光机》在内的多首经典歌曲,与台下观众互动时,因误读“沔阳”为“gai阳”而引发了一场温馨的笑声。值得注意的是,他特地为这次演出准备的文化衫上,“沔”字也出现了印刷错误…

    2024 年 10 月 6 日
    1600
  • 以军战机空袭黎巴嫩 摧毁数千火箭弹发射器

    以色列国防军于8月25日实施了一项大规模空袭行动,目标针对黎巴嫩真主党设置在黎南部的大规模火箭弹发射装置。据以色列国防军透露,真主党原本预谋向以色列中部发射火箭弹,但这次清晨的空袭行动成功地阻止了潜在的袭击事件。行动中,以色列动用了大约100架战斗机,对黎巴嫩真主党的设施进行了精准打击,这些设施包含数千个用于发射火箭弹的发射器。军方进一步说明,这些被击中的发…

    2024 年 8 月 25 日
    5100

发表回复

您的电子邮箱地址不会被公开。 必填项已用 * 标注

关注微信