出品｜虎嗅科技组
作者｜孙晓晨
编辑｜苗正卿
头图｜视觉中国
11月9日，OpenAI安全系统团队负责人Lilian Weng宣布将于当地时间11月15日离职，而3个月前，她刚刚上任OpenAI研究与安全副总裁。
Lilian Weng本科就读于北京大学，后在印第安纳大学伯明顿分校取得博士学位，是GPT-4项目的重要贡献者之一。
2023年，Lilian Weng创建并领导了OpenAI的安全系统团队，以期解决现有模型被恶意使用等AI安全问题。
2024年5月，OpenAI第三位安全主管Jan Leike离职。不久之后，Lilian Weng升任为OpenAI新一任安全主管。
如今，Lilian Weng选择离开。
“在GPT-4发布之后，我被要求接受一个新的挑战，重新考虑OpenAI安全系统的愿景，并将工作集中在一个拥有完整安全堆栈的团队之下。这是我做过的最困难、压力最大、最激动人心的事情之一。”Lilian Weng在社交平台X中分享道，“如今，安全系统团队拥有80多名杰出的科学家、工程师、经理、政策专家，我对我们团队取得的成就感到非常自豪。”
在离职声明中，Lilian Weng对团队取得的成果表示非常满意，尤其对o1-preview模型的最新成就赞不绝口，“它是我们迄今为止最安全的模型，在保持真实性的同时，表现出了对越狱攻击的卓越抵抗力。”
为什么要培养一个安全型AI？
Lilian Weng在B站“超级科学晚”活动中表示“AI安全是保障智能世界的关键”。随着AI的快速发展和广泛应用，恶意使用、有害信息输出、数据偏见、数据污染、对抗性攻击以及与人类价值不符等安全挑战也成为了AI发展不得不面对的问题，AI安全成为重要课题。
然而，OpenAI或已无暇顾及AI安全问题。
在此之前，OpenAI超级对齐团队的两名负责人Ilya Sutskever和Jan Leike便已离职。Jan Leike在个人推文中奉劝“OpenAI必须成为一家以安全为首位的AGI公司”。
“AGI Readiness”团队的高级顾问Miles Brundage也于近日离职，并在离职声明中指出专注于AI安全研究的“AGI Readiness”团队将被解散。他本人则希望从外部继续进行AI安全方面的工作。
包括Lilian Weng在内多位AI安全部门核心员工的离开，证明AI安全在OpenAI内部已被置于次要位置。
与AI安全相比，OpenAI不得不先考虑营收问题。
据CNBC证实，今年OpenAI预计收入约为37亿美元，而亏损约50亿美元。报道中称，该公司8月份实现了3亿美元的收入，自去年初以来增长了1700% ，并预计明年将实现116亿美元的销售额。
尽管前景广阔，但短期之内，资金压力会是OpenAI的主要问题之一。在考量之中，安全为利润让了路。
同时，离职潮也展露了OpenAI的内部问题。
OpenAI人员动荡中，Lilian Weng并非第一位离开OpenAI的华人高管。此前，曾任ChatGPT消费产品副总裁的Peter Deng便已离职。
2023年智谱研究发布的《ChatGPT团队背景研究报告》显示，ChatGPT 团队共有华人9人，占团队总人数10%，Lilian Weng便是其中之一。
尽管是OpenAI的资深员工，而且居功甚伟，Lilian Weng依然选择离开这里。
华人科学家出走，是OpenAI离职潮的缩影。
然而，离职风波中的OpenAI终于传来好消息。11月13日，OpenAI联合创始人兼总裁Greg Brockman宣布提前结束休假，回归公司。
据外媒报道，Greg Brockman回归，将专注于应对重大技术挑战。
如今，除Sam Altman、Wojciech Zaremba以及刚刚休假回归的Greg Brockman外，当年其余帮助创立OpenAI的元老均已不在团队之中。
大量早期员工的离开，说明在人工智能的发展航程中，不仅仅是技术问题有待解决，员工管理和理念冲突更是不得不谨慎处理的隐痛。
“现在，在OpenAI工作了7年了，我准备重新开始并探索一些新东西。OpenAI正以火箭般的增长趋势上，希望这里的每个人一切都顺利。”Lilian Weng未在推文中介绍离职原因，但作为公司目前职位最高的华人科学家之一，她的出走表明OpenAI人员动荡远未平息。
Greg Brockman回归是否能让OpenAI的高层动荡回稳，尚是未知数。
本内容为作者独立观点，不代表虎嗅立场。未经允许不得转载，授权事宜请联系 [email protected]
正在改变与想要改变世界的人，都在虎嗅APP返回搜狐，查看更多
责任编辑：