OpenAI的動盪:人才流失、訴訟和政府關係

2023年11月,OpenAI董事會投票決定將公司的其中一位創始人之一的Sam Altman撤換。董事會成員包括另一位創始人Ilia Sutskever、另一位創始人Greg Brockman,以及Helen Toner、Tasha McCauley和David D'Angelo。據透露,Ilia、Helen、Tasha和David是投票解雇Altman的人,而Brockman是唯一支持他的人。

在接下來的幾個月裡,OpenAI經歷了大規模的人才流失。2024年2月,在人工智能發展方面有重大貢獻並參與創建卷積神經網絡的Andre Karpathy決定離開公司,專注於自己的項目。一個月後,OpenAI的開發者關係主管兼重要人物Logan Kilpatrick離職加入了Google。

不久之後,參與決定撤換Altman的另一位創始人Ilia Sutskever也宣布離開OpenAI,表示要專注於自己的項目。不過,他的離職並不像其他人那樣和平,很可能存在與Altman之間的緊張關係。

當另一位知名人物Yan LeCun離開公司時,OpenAI工程師和主管們離職的非對抗時代結束了。LeCun表達了對公司領導層在安全性、監控、準備、安全性和對抗性強健性等方面的優先事項的不同意見。他認為這些問題沒有得到足夠的解決,並擔心公司正在向「炫目的產品」轉移,而不是專注於安全性。

LeCun是唯一一個對OpenAI的做法表示負面評論的人,這是因為公司要求員工簽署不得貶低公司的協議。這意味著,如果他們離開公司,就不允許批評OpenAI,否則將面臨失去已歸屬股權的風險。不過,在這一事件之後,OpenAI改變了政策,允許員工更自由地談論他們的經歷。

來自OpenAI的關鍵人物,如Yan Lecun、John Schulman和Peter Deng的最近離職,引發了人們對公司安全和安全性重視程度的擔憂。

Yan Lecun在Twitter上發帖指出,他與OpenAI領導層在公司優先事項上存在分歧,稱「安全性、文化和流程已被炫目的產品所取代」。他表示,關鍵問題如安全性、監控、準備和對抗性強健性沒有得到足夠的解決。

同樣地,John Schulman決定離開OpenAI加入競爭對手Anthropic,是出於「加深對AI對齊的關注」的願望。這表明他認為OpenAI在這一重要問題上的重視程度不夠。

此外,曝光OpenAI曾要求員工簽署不得貶低公司的協議,阻止他們對公司做法提出批評,進一步凸顯了公司在安全性和透明度方面可能存在的問題。

OpenAI與美國政府的合作日益密切,包括任命一位前美國國家安全局(NSA)高官加入董事會,這也引發了人們對公司獨立性和將公眾利益置於商業利益之上的能力的擔憂。

總的來說,關鍵人物的離職以及他們對OpenAI優先事項的擔憂,表明該公司可能正在努力在追求尖端AI技術與確保系統安全性和安全性之間取得平衡。

OpenAI正面臨一系列法律挑戰和政府參與增加,這加劇了公司內部的動盪:

• 一名YouTuber對OpenAI提起集體訴訟,指控該公司擅自抓取YouTube頻道的字幕來訓練其模型,包括Sora。
• 曾經出售其在OpenAI股份的Elon Musk,現已重新起訴該公司,指控其違反了創立原則,從非營利轉向營利模式,並將商業利益置於公眾利益之上。
• OpenAI正在支持幾項參議院法案,包括「人工智能創新未來法案」,該法案將成立一個名為美國人工智能安全研究所的新監管機構。這表明該公司正在尋求與政府更緊密的聯繫。
• OpenAI已任命一位退役的美國陸軍將軍Paul M. Nakasone(曾領導美國網絡司令部和國家安全局)加入其董事會。這進一步表明該公司與政府實體的合作加深。
• 報告顯示,OpenAI每年燒錢高達50億美元,其中70億美元用於模型訓練,15億美元用於員工,引發了人們對公司財務可持續性的擔憂。

這些法律挑戰、政府參與和財務壓力,正加劇OpenAI內部的動盪,正如John Schulman的離職以及聯合創始人Greg Brockman長期休假所表明的。在這些壓力下,該公司維持對安全性和對齊的關注能力仍然是一個重大問題。

著名人工智能研究公司OpenAI正面臨一系列挑戰,引發了人們對其未來方向和穩定性的擔憂。這些主要挑戰包括:

1. 人才流失:公司經歷了關鍵人物的大規模離職,包括創始人、知名研究人員和領導者。像Andre Karpathy、Logan Kilpatrick、Ilya Sutskever和Yan LeCun等人都離開了公司,引發了人們對公司領導層的穩定性和研究方向的質疑。

2. 安全和對齊的擔憂:一些前員工,如Yan LeCun,對OpenAI過度重視「炫目的產品」而忽視安全性、安全性和與人類價值觀的對齊表示擔憂。這引發了人們對公司致力於負責任的人工智能發展的質疑。

3. 財務壓力:OpenAI據報每年燒錢高達50億美元,未來12個月內可能會損失70億美元。訓練大型語言模型和維持龐大員工隊伍的高成本給公司帶來了財務壓力。

4. 法律挑戰:OpenAI面臨多起訴訟,包括一起集體訴訟,指控其擅自抓取YouTube字幕,以及Elon Musk提起的指控公司違反創立原則的訴訟。

5. 政府參與增加:該公司與美國政府的聯繫日益密切,支持立法倡議,並任命一位前NSA官員加入董事會。這引發了人們對政府可能影響OpenAI研究和決策的擔憂。

6. 產品延遲和競爭壓力:雖然OpenAI展示了像GPT-4和Dolly這樣的令人印象深刻的AI模型,但它在向公眾大規模提供這些技術方面一直很慢。同時,Anthropic、Stability AI和Google等競爭對手正在快速推進自己的AI能力,可能超越OpenAI。

這些挑戰綜合起來,描繪了一家正面臨重大動盪和不確定性的人工智能公司。關鍵人物的離職、安全擔憂、財務壓力、法律糾紛和政府參與增加,都表明OpenAI可能正處於發展的關鍵時刻,可能面臨重大變革甚至崩潰的風險。