OpenAI治理研究员RichardNgo的离职：AI安全员工接连出走背后的深层问题

新智元报道编辑：静音

导语：近日，OpenAI再次引发业界关注，其治理研究员RichardNgo宣布离职。
继许多专注于AI安全的员工相继离开后，Ngo的离职无疑具有特殊的象征意义。
他在OpenAI中一直专注于AI安全研究，并对AGI的良性发展抱有强烈愿景。
他的离职引发了关于OpenAI内部AI安全治理问题的热议。

正文：

近日，OpenAI研究科学家、治理研究员RichardNgo宣布离职。
他自2021年加入OpenAI以来，一直在AI安全领域贡献自己的力量。
随着Ngo的离职，一系列关于OpenAI内部AI安全治理的问题逐渐浮出水面。

一、RichardNgo的离职信与心声

在离职信中，Ngo表示对过去一年里发生的事件有很多未解的问题，这使得他难以相信自己的工作能在长期内造福世界。
他对实现OpenAI使命——让AGI（人工智能通用智能）良好发展的困难有着深刻的认识。
Ngo还提到，他想要进行更多的公开迭代，并与更多合作者一起探讨多种研究方向。
接下来的几个月里，他计划进行独立研究，内容包括AI治理和理论性AI对齐问题的结合。
尽管面临许多波折，他依然享受在OpenAI的时光，并对此表示感激。

二、RichardNgo的学术与工作经历

作为AI安全社区中一个有影响力的声音，RichardNgo自2018年以来一直致力于AI安全研究。
他是本文《The Alignment Problem from a Deep Learning Perspective》的共同作者，已在ICLR上发表。
他还收集了很多关于AI对齐的课程资料，编成了一系列课程。
值得一提的是，Ngo还是一个非常具有人文气息的科技从业者，他坚持初心并对AI安全未来持有担忧。
他在剑桥大学获得了机器学习哲学的哲学博士学位和计算机科学的哲学硕士学位，并在牛津大学获得了计算机科学与哲学的文学学士学位。
他还撰写了关于AI的自传小说。

三、OpenAI中AI安全员工的离职潮

近年来，OpenAI中专注于AI安全的员工接连出走，Ngo是最新的一位。
继七年元老、安全副总裁LilianWeng和六年元老、研究主管MilesBrundage相继离职后，许多其他专注于安全的员工也相继离开。
其中包括超级对齐共同负责人ilyaSutskever和JanLeike等人。
Leike曾表示，“OpenAI的安全文化和流程已被耀眼的产品所取代”。
这一连串的离职事件让人们不禁对OpenAI内部的治理结构和工作环境产生质疑。

四、离职背后的深层原因与未来展望

OpenAI作为一个领先的人工智能研究机构，其内部员工离职背后的原因值得深入探讨。
从Ngo的离职信中可以看出，他对未来AGI发展的挑战和困难有着深刻的认识。
同时，他也对OpenAI能否继续坚守初心、应对风险提出了担忧。
对于OpenAI来说，如何建立一个更加完善的治理结构和工作环境，以及如何继续吸引和留住优秀的AI安全研究人员，将是其面临的重要挑战。

结语：

RichardNgo的离职引发了人们对OpenAI内部治理问题的关注。
作为AI安全社区中的一位有影响力的声音，他的离开无疑给OpenAI带来了一定的损失。
我们也期待OpenAI能够从中吸取教训，不断完善自己的治理结构和工作环境，以吸引更多优秀的AI研究人员共同为AGI的良性发展贡献力量。
同时，我们也祝愿RichardNgo在未来的研究中取得更多的成果和进展。

标签： 离职、 研究员、 agi、 人工智能、 openai、 deepmind、

本文地址： https://www.gosl.cn/zxzxwz/0228b256f18c6935bdad.html

上一篇：引人瞩目的组合引热议...
下一篇：国产地表最强视频模型惊艳全球，引领科技潮流...