OpenAI創辦人之一在作見證時談到與Anthropico的合併談判及內部紛爭
經過
兩年前，在 OpenAI 董事會解雇了執行長 Sam Altman 之後，Anthropic 最初對與 OpenAI 合併的可能性表示「興奮」。 OpenAI 聯合創始人兼前首席科學家 Ilya Sutskever 在本周公開的一份證詞中告訴律師。
這樣的交易可能會讓Anthropic陷入困境。執行長 Dario Amodei 執掌 OpenAI。他和他的妹妹丹妮拉·阿莫迪 (Daniela Amodei) 都已離開OpenAI的高級職位。2020年，由於人工智慧技術發展日新月異且風險巨大，雙方在如何經營人工智慧新創公司的問題上產生了分歧。這份證詞罕見地揭示了奧特曼的得力助手和競爭對手在他被解僱和重新聘用前後那段動盪時期是如何周旋的。
週三，負責審理伊隆馬斯克針對 OpenAI 公司重組提起的聯邦訴訟的法院公開了 60 頁庭審記錄，披露了兩位競爭對手之間的討論細節。
除此之外，這份筆錄還涵蓋了蘇茨克維爾在解僱奧特曼之前發送給OpenAI其他幾位董事會成員的大量內部衝突文件。蘇茨克維爾很少對他在那段時間的角色發表評論。他拒絕對本文置評。
蘇茨克維爾在證詞中回憶說，他當時希望談判會無疾而終，「因為我真的不想讓 OpenAI 與 Anthropic 合併」。蘇茨克維爾說，其他董事會成員則更支持這個想法，尤其是當時擔任喬治城大學安全與新興技術中心戰略主管的海倫‧托納。
托納去年在一次播客節目中表示，她曾投票解僱奧特曼，理由是奧特曼「隱瞞資訊、歪曲公司實際情況，在某些情況下甚至公然向董事會撒謊」。她拒絕置評。
據蘇茨克維爾回憶，最終合併談判未能取得進展，原因是「Anthropic提出了一些實際障礙」。他沒有詳細說明這些障礙。當時，兩家公司都擁有眾多外部投資者，這些投資者向它們投入了數十億美元，而合併很可能會大幅稀釋他們的股份。
人類組織發言人拒絕置評。
在董事會解僱奧特曼四天后，超過700名員工威脅要辭職，但董事會又重新任命他為執行長。在此期間，蘇茨克維爾的態度也發生了轉變，最終支持奧特曼回歸。
Anthropic如今的年收入已接近70億美元，主要得益於市場對輔助程式設計模型的需求，其估值高達1,830億美元。這兩家公司正展開激烈的競爭，力求開發尖端模型並招募頂尖人才。它們有時也會在人工智慧監管等政策議題上針鋒相對。
OpenAI 的業績——以及 Altman 的公眾知名度——都進一步攀升。該公司近期被投資者估值 5,000 億美元，7 月年化收入達 120 億美元。本週，OpenAI 完成了一項複雜的公司重組，為最終上市鋪平了道路。 OpenAI 是一個非營利組織，其使命是確保強大的 AI 造福人類，該組織將繼續掌控這家營利性公司。
馬斯克認為，OpenAI為了達到如今的地位，違反了其慈善義務。這位特斯拉執行長——他同時也是另一家人工智慧實驗室xAI的創辦人——自2015年OpenAI成立之初就向其捐贈了4,400萬美元，當時OpenAI是一家非營利研究實驗室。馬斯克指控OpenAI以營利性公司的形式運營，欺騙了他。 OpenAI否認了這些指控，並提起了反訴。
在 10 月 1 日於舊金山舉行的與 Sutskever 的近 10 小時的採訪中，馬斯克和 OpenAI 的律師就 Altman 被解僱一事，以及他對通用人工智能（具有人類水平智能的人工智能）的看法，以及他離開 OpenAI 的原因，對 Sutskever 進行了質詢。
“謊言模式”
Sutskever的披露也詳細描述了ChatGPT發布後一年內，OpenAI高層員工之間日益增長的敵意和不信任。這款人工智慧聊天機器人讓這家研究實驗室一夕成名，在2023年初吸引了微軟100億美元的巨額投資，並引發了創始人及投資者對使用OpenAI開發的大型語言模型的初創公司的狂熱追捧。
Sutskever 是決定解僱 Altman 的董事會成員之一，董事會成員最初表示 Altman 未能「始終坦誠相待」。
他透過向當時的獨立董事會成員——托納、科技企業家塔莎·麥考利和 Quora 首席執行官亞當·德安傑洛——發送電子郵件來促成這一決定，郵件中包含兩份備忘錄，記錄了蘇茨克維爾認為奧特曼和 OpenAI 聯合創始人兼總裁格雷格·布羅克曼令人擔憂的行為。
馬斯克的律師在證詞中表示，蘇茨克維爾在關於奧特曼的備忘錄中寫道：“薩姆一貫撒謊、詆毀高管、挑撥高管關係。” 針對這份備忘錄，律師問道：“你認為應該採取什麼行動？”
「終止，」蘇茨克維爾回答。
“Sutskever 給其他董事會成員的備忘錄包括「挑撥離間」、「丹妮拉與米拉」和「達裡奧與格雷格、伊利亞」等標題。
Sutsekver表示，他沒有將備忘錄發送給當時包括Altman在內的整個董事會，“因為我覺得，如果他知道了這些討論，他就會想辦法讓它們消失。”
《華爾街日報》先前曾通報蘇茨克維爾和其他人對奧特曼的一些擔憂細節。
OpenAI發言人在一份聲明中表示：“這些指控在董事會的獨立審查中得到了全面審查，審查結果一致認為Sam和Greg是OpenAI的合適領導人。他們始終展現出韌性，並對我們的使命以及為之奮鬥的人們有著堅定的承諾。”
蘇茨克維爾表示，他對奧特曼感到擔憂，部分原因是他與當時OpenAI首席技術長米拉·穆拉蒂的談話。奧特曼被解職後，穆拉蒂曾短暫擔任OpenAI的臨時執行長。
據 OpenAI 的律師稱，Sutskever 的備忘錄中寫道：“Sam 因類似行為被 YC 開除。他製造混亂，啟動大量新項目，挑撥離間，因此沒有很好地管理 YC。”
蘇茨克維爾表示，穆拉蒂向他講述了奧特曼在Y Combinator（奧特曼於2014年至2019年擔任總裁的知名創業加速器）的經歷。 Y Combinator聯合創始人保羅·格雷厄姆否認了該加速器解僱奧特曼的說法。
一年前，穆拉蒂突然離開OpenAI，創立了Thinking Machines Lab，這是一家專注於客製化人工智慧的新創公司，今年稍早估值達到100億美元。她去年在X雜誌上發表聲明稱，她曾就奧特曼的問題向個別董事會成員提供反饋，而奧特曼本人也知曉這些反饋，但這「絕不意味著我為前任董事會的行為負責或支持他們」。
穆拉蒂的代表拒絕置評。
OpenAI的律師也宣讀了Sutskever備忘錄中關於Altman的部分標題，例如「對Mira回饋的隱晦報復」、「挑撥離間」、「Daniela與Mira之爭」以及「Dario與Greg、Ilya之爭」。 Sutskever稱，Murati曾告訴他，Altman在兩人都就職於OpenAI期間，挑撥Daniela Amodei與Murati之間的關係。這場糾紛的背景尚不清楚。
蘇茨克維爾的備忘錄也回顧了他與奧特曼之間的個人衝突。備忘錄顯示，達裡奧·阿莫迪曾想掌控OpenAI的所有研究工作，並解僱布羅克曼。 「我責怪薩姆沒有接受或拒絕達裡奧的條件，」蘇茨克維爾解釋道。
他還表示，奧特曼曾告訴他以及高級研究員雅庫布·帕喬基（現任 OpenAI 首席科學家），「關於公司運作方式的說法相互矛盾」。
蘇茨克維爾表示，他在奧特曼被解僱之前編寫了這份 52 頁的備忘錄，其中包括奧特曼與其他高管之間的通信截圖，其中列舉了奧特曼涉嫌欺騙的案例，因為一些董事會成員曾要求蘇茨克維爾提供相關文件。
例如，備忘錄中提到，奧特曼曾告訴穆拉蒂，另一位高層表示，GPT-4 Turbo 模型不需要 OpenAI 部署安全委員會的批准，該委員會是 OpenAI 與微軟的聯合機構，負責決定模型是否足夠安全可以發布。
OpenAI 於 2023 年 11 月發布了該模型。 OpenAI 發言人表示，安全委員會已批准該模型。
法院已命令蘇茨克維爾提供更多關於其在OpenAI公司財務權益的細節，並提交他撰寫的關於布羅克曼的檔案。根據《華爾街日報》報道，該備忘錄主要關注布羅克曼涉嫌的霸凌行為。
Rocket Drew 是 The Information 的記者，負責通報人工智慧領域。您可以透過 rocket@theinformation.com、Signal（電話：(530) 400-4184）或 Twitter（帳號：@rocketalignment）聯絡他。
沒有留言:
張貼留言
注意：只有此網誌的成員可以留言。