那個自以為能保護人工智慧安全的人

德米斯·哈薩比斯畢生致力於推動一項他認為可能會毀滅世界的科技。

😔AI道德治理委員會其實就是伊斯蘭神棍教士集團

😔😔😔😔

插圖由露西·納蘭德繪製。圖片來源：克里斯·J·拉特克利夫/彭博社/蓋蒂圖片社。

2026年3月29日，美國東部時間上午6點

乍看之下，DeepMind人工智慧實驗室的共同創辦人德米斯·哈薩比斯似乎是一位似曾相識的人物：一位充滿使命感的企業家，一位思維跳脫常規的科學家，總能在某個特定時刻脫穎而出，成為關鍵人物。而對哈薩比斯來說，這個時刻正是硬體、軟體和數據完美融合，使超級智慧成為可能之時。然而，哈薩比斯絕非循規蹈矩之輩。他畢生致力於創造一項他認為有可能毀滅世界的科技。

哈薩比斯同意和我談談他的探索，因為他相信，除非社會了解發明家的動機，否則永遠不會信任他們。在我撰寫《無限機器》一書的近三年時間裡，我們定期在他位於北倫敦家附近的一家酒吧見面。我們會爬上一段破舊的木樓梯，來到二樓的房間，在一盞曾經華麗的水晶吊燈下，一邊喝著卡布奇諾，一邊聊上兩個小時：我列了一張詳盡的待談清單；哈薩克斯則妙語連珠地談論著智能與生命、計算機科學與神經科學、哲學和電影。每一次談話中，動機的問題都像洛斯阿拉莫斯上空的蘑菇雲一樣，始終縈繞在我們心頭。

哈薩比斯對人工智慧可能帶來的各種災難性後果都瞭如指掌。他是在一次關於人工智慧安全的講座上結識了DeepMind的共同創辦人之一肖恩·萊格。在一次奇點高峰會上，未來學家分享了機器超越人類的種種設想，哈薩比斯也因此結識了他的第一位投資人彼得·蒂爾。哈薩比斯曾經讓傲慢的火箭製造者馬斯克印象深刻，因為他指出太空殖民並不能確保人類的生存。哈薩比斯指出，超級智慧系統也能製造火箭。如果這些系統最終被證實是邪惡的，那麼火星殖民地也無濟於事。

拉菲·克里科里安：驗證機器

2014年Google收購DeepMind時，哈薩比斯展現了他對自身使命風險的認真態度。他將收購的前提條件設定為Google必須對其技術進行管控，拒絕讓一家營利性公司對人工智慧的推廣應用擁有最終決定權。他堅持設立一個由獨立專家組成的外部委員會來監督整個過程，並明確表示將嚴格禁止人工智慧的軍事用途。哈薩比斯從青少年時期就立志打造強大的人工智慧。只有確保人工智慧的安全，他才能為自己畢生的心血感到驕傲。

谷歌的談判代表從未遇到這樣的要求。一家位於倫敦的小型新創公司竟然提議谷歌為一項它無法完全掌控的資產支付數億美元。但哈薩比斯已經組成了全球頂尖的人工智慧智囊團。谷歌接受了他的條件。

本書封面：“無限機器：德米斯·哈薩比斯、DeepMind與超級智慧的探索” — 本文改編自塞巴斯蒂安·馬拉比的新書*《無限機器：德米斯·哈薩比斯、DeepMind 和超級聰明的探索》。*

哈薩比斯也設想了超級智慧的研發環境。他設想帶領頂尖研究人員隱居到一個秘密地堡，遠離敵人和塵世的紛擾。來自學術界的哲學家和科學家將加入他們的行列，一支來自世界各地的夢幻隊將代表全人類孕育強大的人工智慧。這一設想隱含著所謂的「單一模式」。由哈薩比斯領導的單一科學研究團隊將確保超級智慧的安全研發。

有一天，我遇到一位研究員，他是在DeepMind被Google收購後不久加入的。在研究員的最後一次面試中，哈薩比斯警告他，如果他簽約，就應該做好準備，迎接一個驚天動地的結局——他會消失在一個地堡裡。

「那個地堡只是個比喻嗎？」我追問。

“不，”他說，“在我效力於DeepMind的任何階段，如果Demis讓我搭乘飛機前往摩洛哥的某個秘密地點，我都會覺得他已經給了我充分的通知。”

「為什麼是摩洛哥？」我問。

「哦，沙漠。我剛才還在想曼哈頓計畫。那項計畫就是在沙漠裡進行的。」

推薦閱讀

2015年，為了落實Google關於成立人工智慧監管委員會的承諾，DeepMind秘密組織了一場哲學家和技術專家的聚會。為了排除潛在競爭對手，並推廣其獨特的願景，哈薩比斯特意邀請伊隆馬斯克在加州霍桑的總部主持這次會議。然而，這項策略卻適得其反。這次聚會標誌著哈薩比斯的安全願景開始瓦解。

馬斯克聽取了哈薩比斯及其聯合創始人的報告。然後，他做了與他們預期截然相反的事。他與山姆·奧特曼聯手創立了OpenAI，一家明確反對Google和DeepMind的公司。後來，那些信奉單一解決方案願景的人將這一刻描述為「墮落」：蛇將邪惡帶入了伊甸園。但鑑於人性，墮落是不可避免的。當面對普羅米修斯式科技的出現時，人們不會團結一致地投身於單一解決方案。他們會爭吵、嫉妒，並且抱團取暖。

此時，哈薩比斯或許會停下來重新思考。

如果單一目標模式過於天真，人工智慧開發者又該如何避免一場爭奪霸主地位的競賽呢？

此外，既然馬斯克已經抄襲了DeepMind的創意，谷歌自然不會允許更多競爭對手加入，因此召開了第二次監督會議。但哈薩比斯並沒有就此止步，而是全力以赴。

2016年，DeepMind開發出一套系統，在古老的圍棋遊戲中擊敗了頂尖人類棋手。機器主宰世界的時間線大大縮短。

為了平衡這一發展，哈薩比斯提出了讓人工智慧服務人類的新想法。他與共同創辦人穆斯塔法·蘇萊曼一起，著手與Google談判一套新的治理保障機制。

為了推進這項秘密的“馬裡奧計劃”，他聘請了一支頂尖的法律團隊，獲得了領英創始人里德·霍夫曼10億美元的投資承諾，並考慮如果無法掌控自己的技術，就將DeepMind從谷歌剝離出去。同時，蘇萊曼領導DeepMind幫助英國國家醫療服務體系（NHS）應對急性腎臟病。如果人工智慧能夠獨立治理，並且能夠改善一般英國人的健康狀況，哈薩比斯就能確信他的追求是真正有意義的。

這兩項計劃都以失敗告終。

與Google的治理之爭持續了三年之久，凸顯了將非營利組織的監管機制移植到營利公司身上的困難。

幫助英國國民醫療服務體系（NHS）的計畫遭到了隱私權保護人士的強烈反對，他們憤怒地認為，美國科技巨頭的子公司可能會取得病患資料。

到了2019年，哈薩比斯和DeepMind在這兩方面都讓步。蘇萊曼也被逐出了公司。

哈薩克斯接下來對人工智慧造福人類的嘗試涉及科學領域。如果DeepMind無法直接幫助英國國家醫療服務體系（NHS），它就可以致力於加速藥物研發。

2020年，DeepMind發布了一套令人驚嘆的系統，該系統能夠繪製微觀蛋白質的形狀圖，而哈薩比斯和他的同事因此共同獲得了諾貝爾化學獎。

該獎項彰顯了人工智慧的巨大優勢。但這並不能消除它同樣真實存在的危險。

2022年——巧合的是，就在我向哈薩比斯提出邀請他為我的書稿做訪談的一周後——

OpenAI發布了其對話助手ChatGPT，這款產品成為了科技史上最火爆的產品。這給哈薩克斯帶來了另一個道德考驗。

理論上，他本可以把聊天機器人業務拱手讓給這位新興的競爭對手，堅守造福人類的科學之路。

但哈薩比斯是我認識的最具競爭精神的人，無論如何，對谷歌來說，承認聊天機器人市場是不可接受的。我記得在2023年初拜訪哈薩比斯時，他說：“現在是戰時。”

最後演變成一場驚心動魄的資本主義競賽，哈薩比斯的Gemini系統與ChatGPT以及其他幾家競爭對手展開角逐。數千億美元的資金推動這場競賽，儘管一些競爭者竭力確保其模式的安全性，但無論是國家監管還是公司治理結構都無法阻止其他競爭者競相降低標準。

谷歌一改先前的立場，如今急於向美國國防機構提供人工智慧解決方案。這與哈薩比斯所設想的超級智慧最終目標截然相反。

摘自2026年4月刊：走進人工智慧資料中心骯髒、反烏托邦的世界

哈薩比斯承認遭遇挫折，但他依然奮力前進。

他對治理機制的信心如今已然崩塌，矛盾的是，他反而將希望寄託於自身的職業晉升。

他深知，自己的個人目標是塑造造福人類的人工智慧。因此，他新的安全策略也包含著鞏固個人影響力這一核心內容。

「安全與治理結構無關，」哈薩比斯現在說道，「我的意思是，即使你設立了治理委員會，在關鍵時刻，它也可能做不到正確的事情。」

相反，他的目標是“爭取一個參與決策的機會，這樣當安全問題出現時”，他就能參與製定解決方案。

「事情並非非黑即白，尤其是在面對一項後果未知的技術時，」他告訴我。 “所以你必須靈活應變。你必須從理想主義者轉變為現實主義者，但最好還能堅守自己的價值觀。”

我仔細思考了這個判決。一方面，哈薩比斯違背了他最初的價值觀。另一方面，他關於需要超越年輕時的設想的觀點是正確的。一旦多個國家的多個實驗室加入研發強大人工智慧的行列，他們就發現無法避免競爭。在這樣一個充滿焦慮的世界裡，一個善意人士的存在，或許只能提供一絲脆弱的安慰。但在各國政府採取約束措施之前，善意人士或許是目前所能提供的最大慰藉。

本文改編自塞巴斯蒂安·馬拉比的新書《無限機器：德米斯·哈薩比斯、DeepMind 和超級聰明的探索》。