作者 | 褚杏娟
5 月 15 日，OpenAI 聯合創始人 Ilya Sutskever 在社交平台上發文表示，決定離開 OpneAI。幾個小時後，OpenAI 超級對齊團隊的負責人 Jan Leike 也宣布離職，離職宣言沒有像 Ilya 那樣寫小作文，他就寫了一句話“我辭職了（I resigned）”。
值得注意的是，擁有 OpenAI 20% 計算資源的超級對齊團隊（Superalignment Team）是由上面兩個人領導的。
根據統計，自 OpenAI 董事會事件和 Altman 複職以來，離開 OpenAI 的具有安全意識的人名單包括：Ilya Sutskever、Jan Leike、Leopold Aschenbrenner、Pavel Izmailov、William Saunders、Daniel Kokotajlo 和 Cullen O'Keefe。
此外，近期離職的人還包括非營利組織和戰略計劃主管 Chris Clark 和社會影響主管 Sherry Lachman。
每個 OpenAI 離職員工宣布離職後，幾乎都可以看到有人問：What did you see ? 當然這個問題並沒有人回答。
“OpenAI 似乎確實沒有多少使命了——他們的 CEO 散發著二手車推銷員的氣息，他最近提到考慮允許他們的人工智能生成色情內容，現在又發布了一個調情的 AI 女友作爲他給人類的禮物。”有網友評價道。
“元老科學家”所剩無幾“Karpathy 和 Ilya 現在都已從 OpenAI 消失了。看起來，現在是 Sam Altman 和 Greg Brockman 的表演舞台了。不得不承認，在這四個人中，Karpathy 和 Ilya 是給我印象最深刻的兩個。”
馬斯克也曾這樣稱贊 Ilya：Ilya Sutskever 是 OpenAI 成功的關鍵。 Altman 也在宣布離職的帖子裏說到，“沒有他，OpenAI 就不會存在。”
去年 11 月，Ilya 與另外三名董事會成員一道，迫使該公司高調的首席執行官 Sam Altman 辭職，但後來他表示後悔。據報道，雙方爭論的焦點是對 OpenAI 方向的分歧：Ilya 對 Altman 以犧牲安全工作爲代價而急于推出人工智能産品感到沮喪。
Altman 在被趕下台的五天後就回到了 OpenAI，重申了自己的控制權，並繼續推動越來越強大的技術，這讓他的一些批評者感到擔憂。Ilya 仍然是 OpenAI 的員工，但他再也沒有回去工作。
圍繞 Ilya 工作的模糊性引發了一個迷因：Ilya 在哪裏？他看到了什麽？ OpenAI 聯合創始人馬斯克經常在他擁有的平台 X（以前的 Twitter）上親自提出這個問題。
能看到的動態是，Ilya 在去年幫助 OpenAI 創建了超級對齊團隊，任務是建立防護措施，以防止人工通用智能（AGI）失控。和其他人一樣，他越來越擔心人工智能可能變得危險，甚至可能毀滅人類。
但是，Ilya 和 Leike 領導的這個超級對齊團隊人員非常不穩定。
今年 2 月，William Saunders 離開了 OpenAI。自 2021 年以來，Saunders 一直在安全團隊工作，該團隊後來成爲超級對齊團隊。Saunders 還是可解釋性團隊的經理，該團隊研究如何使 AGI 安全，並檢查模型如何以及爲什麽會這樣表現。他與人合作撰寫了幾篇關于人工智能模型的論文。
也是在這個月，備受尊敬的研究科學家 Andrej Karpathy 也宣布離開 OpenAI。他表示，自己的離開並不是因爲任何事件、問題或戲劇性事件，而是他要去追求自己的項目。
Karpathy 是 OpenAI 的創始成員，最初于 2017 年離開公司加入特斯拉。2022 年，他離開特斯拉，並在大約一年前重新加入 OpenAI。Karpathy 在社交媒體和 YouTube 上擁有大量粉絲，發布了有關新興領域發人深省的文章以及解釋人工智能內部運作原理的視頻。
3 月，對齊研究員 Ryan Lowe 離開，參與過 GPT-4 對抗性測試的 Daniel Kokotajlo 也離開了 OpenAI。Kokotajlo 在他的網上論壇 LessWrong 個人主頁上寫道，他退出是因爲“對 AGI 時代的行爲失去信心”。
他還曾參與關于暫停 AGI 開發的討論。Kokotajlo 寫道：“大多數要求暫停的人都是在試圖反對‘選擇性暫停’，以及要求對處于進步前沿的大型實驗室的實際暫停。”
他認爲，目前的奧弗頓之窗（overton window ）似乎圍繞評估風險和采取緩解措施的組合，這具有很高的監管俘獲風險（即導致選擇性暫停，而這並不適用于最需要暫停的大公司！)“我的幻滅感是我離開 OpenAI 的原因之一。”
4 月，據知情人士透露，OpenAI 解雇了兩名涉嫌泄露信息的研究人員，其中包括超級對齊團隊的 Leopold Aschenbrenner，Aschenbrenner 是 llya 的盟友。另一位從事推理研究的研究員 Pavel Izmailov 也曾在安全團隊工作過。目前，Pavel Izmailov 已經跳槽到馬斯克旗下的 xAI，明年也將成爲紐約大學助理教授。
最近，多名涉嫌透露消息給外界的“內鬼”也被 OpenAI 開除。
“OpenAI 正在失去最優秀、最注重安全的人才。”這是大家對此的評價。鑒于最近從 OpenAI 離職的人數之多，不少網友都開始調侃：“我從 OpenAI 離職了”。
OpenAI 被營銷支配？“六位頂尖科學家早已離去。OpenAI 如今由營銷、業務、軟件和産品化人員運營。”
從左到右：Jakub Pachocki、Greg Brockman、Ilya Sutskeve、Sam Altman、Muri Murati
上圖中，除去 Ilya，幾乎就是當前 OpenAI 的重要管理層了。
OpenAI 的關鍵研究員 Jakub Pachocki 將接替 Ilya 擔任該公司的首席科學家。在 Altman 被罷黜前幾周，曾幫助監督 GPT-4 創建的 Pachocki 被提升到公司研究總監的位置，一度被提升到與 Ilya 並肩的職位。
Pachocki 于 2017 年加入 OpenAI Dota 團隊，擔任研究主管，該團隊構建了一個能夠在 Valve 的 Dota 2 策略遊戲中擊敗人類玩家的人工智能系統。隨後，Pachocki 成爲 OpenAI 深度學習組織推理和科學的研究負責人，然後晉升爲研究總監。目前尚不清楚 Pachocki 是否也會接任 OpenAI Superalignment 團隊的負責人。
而 Jan Leike 離職後，他的職位將由該公司另一位聯合創始人 John Schulman 擔任。Schulman 在去年失敗的董事會政變中站在了 Altman 一邊。另外，Schulman 在 Superalignment 團隊還擔任了監督者角色。
當然，OpenAI 也在不斷引進新的人才，年輕力量正在支撐 OpenAI。比如 GPT-4o 的多模態負責人 Prafulla Dhariwal，實際只有本科學曆；Sora 的論文作者中有一位研究員今年剛滿 21 歲，僅有高中畢業證。
但衆所周知，OpenAI 更多使用的是谷歌提出的技術路線，其核心研發實力不如他們的工程能力。元老科學家們的出走還是讓大家對 OpenAI 的未來産生了擔憂：OpenAI 還能實現 AGI 嗎？
AI 行業人才短缺是不爭的事實，AI 相關的部門很難找到合適的員工。AI 人才爭奪戰已經開始，甚至有企業都給出了 100 萬美元年薪。
薪酬數據和職業平台 Levels.fyi 聯合創始人 Zuhayeer Musa 在采訪中表示，OpenAI 提供的中位工資（包括獎金和股權）爲 925,000 美元。Meta 的 344 名機器學習和人工智能工程師，包括獎金和股權在內的薪酬中位數約爲 40 萬美元。
除了巨額薪酬之外，從小型初創公司到 OpenAI、Meta 等，都在提供加速的股票兌現計劃，甚至試圖挖走整個團隊。
“他們沒有護城河。那些從事科學研究的人現在正在爲其他公司做研究，並且會讓 OpenAI 感到震驚。”有網友對 OpenAI 的人才出走評價道。
“OpenAI 對 Microsoft 的需要幾乎就像 Microsoft 對 OpenAI 的需要一樣”。有網友認爲，“當下一波新的深度學習創新浪潮席卷全球時，微軟會吃掉 OpenAI 剩下的東西。他們賺了很多錢，但除非他們彌補失去的東西，否則就沒有未來。”
OpenAI 與微軟的緊密聯系讓一些人希望，至少出于對品牌保護，微軟能夠在安全研究上做一定的投入。但具有諷刺意味的是，微軟在發布“人工智能”産品之前不進行安全檢查方面是已經出名了的。
還有很多人認爲，OpenAI 全力以赴地讓大模型這只“金鵝”産生更多收益、專注于如何通過嵌入廣告實現貨幣化，並通過主題限制繼續提供“安全”等，而不是進一步沿著 AGI 路線前進。
“LLM 通往 AGI 或超級智能的機會爲零。因此，如果這就是 OpenAI 在未來 5 年裏要關注的全部內容，那麽與 Superalignment 相關的小組就沒有必要了。”有網友評價道。
有人推測，要麽離 AGI 太遠，以至于無論“對齊”意味著什麽都是不必要的，要麽就是奧特曼等人已確定這是商業成功的障礙。
“事實證明，我們已經結盟了，這就是所謂的資本主義。”也有人說道，“資本主義本身就是一種不結盟的人工智能，從這個角度來理解就可以澄清很多事情。”
結束語“近十年後，我決定離開 OpenAI。這家公司的發展軌迹堪稱奇迹，我相信 OpenAI 將打造出既安全又有益的人工智能。”38 歲的 llya 補充說，他正在啓動一個新項目，但沒有詳細說明。
Karpathy 和 Ilya 都有了自己的項目，顯然，人們希望那些偉大的人工智能科學家還能在一起做一些有意義的事情。不過，我們應該很快能看到他們多年從事 AI 研發的總結成果。
原文鏈接：
