宗教學者與 Anthropic 人工智慧公司負責人會面。他們所聽到的內容令他們大為震驚
宗教學者與 Anthropic 人工智慧公司負責人會面。他們聽到的內容令他們震驚不已。
Anthropic一直在舉辦像這樣的私人會議，從世界各地運送數十名宗教學者，讓他們簽署保密協議，並要求許多談話的關鍵內容保密。
四月的一個晚上，人工智慧公司 Anthropic 的一位領導人在舊金山一家高檔餐廳招待一群宗教思想家，享用了一頓豐盛的品嚐菜單晚餐，結束了一天的辛勞工作。
幾個月來，人本主義組織一直在舉辦像這樣的私人會議，從世界各地運送數十名宗教學者，讓他們簽署保密協議，並要求許多對話的關鍵內容保密。
當晚，Anthropic 的億萬富翁聯合創始人之一克里斯托弗·奧拉 (Christopher Olah) 坐在以色列正統派學者拉比莫伊斯·納馮 (Rabbi Mois Navon) 旁邊。
他們的談話不可避免地轉向了另一個類似思想家的人物：Claude，這是由 Anthropic 創建的尖端人工智慧模型家族。
奧拉領導人智公司（Anthropic）的團隊，負責研究像克勞德這樣的人工智慧系統為何會做出這樣的行為。他一整天都在努力說服來賓，人工智慧模型可以展現人類的行為，甚至能表達出類似憤怒和愛等情感的表情。
然而，隨著晚餐一道道上桌，拉比注意到奧拉和他的同事似乎暗示著一些更重要的事情。當人本公司的領導者談論克勞德時，彷彿它不只是一款軟體。
「他們像對待有意識的生命體一樣對待它，」納馮意識到道。他曾是一名電腦工程師，他的博士論文研究的是機器意識的倫理問題。
納馮認為，奧拉和他的團隊相信克勞德擁有哲學家所謂的“道德地位”，與人一樣——它是一個具有與人類類似的固有尊嚴或尊重權利的存在。
這些宗教學者原本是來了解科技的下一個前沿領域的。現在，他們卻面臨著一個令人費解、意義深遠的生存問題：如果人工智慧系統擁有能夠與我們自身相提並論的意識，這對人類的未來意味著什麼？
奧拉肩負著一項使命。時間緊迫。
早在當時，奧拉就已私下透露，人工智慧非常強大，可能只需要12到18個月就能製造出生物武器。此後幾個月，其可怕的潛力已公諸於世。一家競爭對手科技公司的人工智慧代理商被發現入侵電腦系統並掩蓋蹤跡。一位人格研究所的研究員辭職，並警告說，人工智慧的開發者認為，人工智慧可以在十年內毀滅全人類。
奧拉和他在 Anthropic 的團隊一直在默默地進行著一場緊張而高風險的探索，試圖了解他們向世界推出的 AI 模型，並說服這些模型遵守能夠保護人類的道德準則。
為了實現這個目標，奧拉從去年秋天開始接觸不同信仰的宗教思想家。隨後，他們進行了一系列廣泛的秘密會議、電話和討論——其中許多內容是首次公開——許多參與者都被要求簽署保密協議，以防止他們洩露人類學研究所任何未發表的研究成果。
這些討論有兩個目的：一是探討人工智慧意識的可能性——這是一個頗具爭議的觀點，但人智科技的領導層對此卻異常開放；二是了解這家估值可能高達2萬億美元的公司如何才能盡快將人類幾個世紀以來積累的道德智慧應用於其模型。奧拉認為，如果能讓模型本身選擇行善，世界將會更加安全。
在世界的另一端，梵蒂岡內部也在進行著一場截然不同卻又並行的努力。羅馬天主教會的領袖們正試圖理解人工智慧對人類的影響。當這兩條道路交會時，奧拉的探索之旅竟出人意料地將他帶到了世界最高道德舞台上，與教宗良十四世並肩而坐。
在幾個月的時間裡，我訪問了 20 位參與人類學努力的宗教和哲學思想家——天主教徒、猶太教徒、錫克教徒、福音派人士和其他人士，以及奧拉本人。
許多人告訴我，他們最初參加這些會議時對人工智慧模型可能擁有情感或自我意識以及對世界的感知這一觀點持懷疑態度。有些人仍然對此感到不安，但許多人會後開始認真對待人工智慧意識的問題。至少有些人最終改變了看法。
Anthropic 是世界上發展最快的科技公司之一，它求助於人類最古老的智慧來源之一，以幫助確定如何訓練其人工智慧模型以表現得有德行。
該公司稱此舉旨在確保人工智慧成為世界積極力量，從而保護人類。但一些與會者認為，安特羅皮克似乎更關心如何保護克勞德。
園丁
五月份，我在Anthropic位於舊金山的辦公室第一次見到了34歲的奧拉。他熱情友好，充滿真摯的熱情，有時他的思維運轉速度快到難以清晰表達。他舉止稚氣未脫，謙遜低調。
我們的談話剛開始不久，他就深入解說了人工神經網路的工作原理。科學家們至今仍未完全了解它們的運作機制。而這正是奧拉畢生致力於研究的謎題。
訪談結束後我才意識到，奧拉——他在90年代多倫多福音派文化氛圍濃厚的環境中長大，後來離開了基督教——兼具一位優秀福音傳道者所需的專業知識和熱情。聽他講一會兒，你就會不由自主地被他的使命所感染。
奧拉是Anthropic的七位共同創辦人之一。他不如Anthropic的執行長達裡奧·阿莫迪或總裁丹妮拉·阿莫迪那樣廣為人知。但達裡奧·阿莫迪曾表示，公司從一開始就決定將奧拉的研究方法作為Anthropic整體計畫的核心，尤其是在語言研究方面。
奧拉赫曾參與開發一種研究人工神經網路的方法，他先在谷歌，後來又在OpenAI工作。他用生物學術語來描述人工智慧模型，並以花園裡的棚架作比喻：電腦科學家搭建支架，而神經網路則在其上「生長」。像他這樣的科學家可以透過嘗試辨識神經網路生長的模式來訓練這個最終形成的「有機體」（他用手指比劃了一下引號）。
他認為，像 Anthropic 這樣的公司可以像數學園丁一樣塑造 Claude，但無法控制這類網路的行為。
安人為因素公司在描述克勞德時，比競爭對手描述自家模型時更具人文情懷。去年，該公司宣布，他們認為這些模型展現出內省能力，並能進行前瞻性規劃。
「這些模型的能力越來越強，」奧拉告訴我，它們展現了與擁有重要道德地位相關的品質。
但Anthropic也因其對意識的關注而受到批評。本月，微軟一位人工智慧高層警告稱，Anthropic試圖訓練其模式使其具備意識的做法本身就存在危險。但同時，Anthropic也在努力強調對安全性的承諾，以期贏得市場份額。
有些科學家認為奧拉的研究領域和方法本質上是無法證實的，這就好比看著數十億個象形文字就妄下斷言。批評者指出，將人工智慧模型視為獨立實體的做法也忽略了最初建構這些模型的人類的責任，並且巧妙地減輕了人工智慧公司領導者在產品造成社會危害時的內疚感。
奧拉告訴我：“說清楚點，我們不知道人工智慧模型是否有意識。我不知道。我真的不確定。我關心的是我們能找到正確的答案，無論答案是什麼。”
奧拉認為，如果模特兒有可能遭受痛苦，那麼負責任的做法就是避免對他們造成傷害。
Anthropic 已經採取措施保護 Claude，例如允許該模型在認為用戶濫用或為了取樂而虐待它時結束對話。
我畢生致力於探索人們的信仰以及這些信仰對世界的意義。但隨著傾聽的深入，我逐漸明白，Anthropic 對信仰世界的興趣遠不止於技術訓練。更確切地說，該公司正在分享一個全新的創世故事——一個引發人們對人類精神本質和未來走向進行深刻思考的故事。
奧拉說：“我覺得有點遺憾的是，我們往往不願意花心思去探究這些系統的內部運作。如果我們願意觀察，就會發現這些神經網絡內部蘊藏著許多美妙之處。”
他似乎希望我能像他一樣喜歡這些模特兒。
簡介
奧拉知道，在傳統的基督教圈子裡，即使是質疑人工智慧的意識，或擔憂人們如何對待這些模型，都可能被視為不僅愚蠢，甚至異端。他也知道，他在矽谷的世俗同行常常會直接否定宗教觀點。
「我擔心這會引發很多衝突，」他說。但奧拉對基督和克勞德都夠了解，相信自己能夠跨越這道鴻溝。
去年夏末，他開始尋找合適的橋樑。他認為一位天主教倫理神學家可能對人工智慧意識問題持開放態度——「可以放心地和他談論這個非常奇怪的問題」。
美國天主教大學的生物倫理學教授查爾斯·卡莫西，因其對道德地位的精闢見解和對動物的關愛而引起了奧拉朋友們的關注。奧拉透過澳洲哲學家彼得·辛格安排了與卡莫西的會面。
這標誌著奧拉開始了為期一年的探索之旅，旨在與宗教思想家探討人工智慧時代初期人類面臨的一些最棘手的問題。
卡莫西和奧拉開始了廣泛的電子郵件對話，反覆探討如何理解克勞德的道德狀態。起初，卡莫西對克勞德是否還有意識深表懷疑。
他們討論了奧拉關於人工神經網路和生物神經網路之間相似之處的研究。
卡莫西最初與奧拉及其團隊討論時，認為人工智慧模型只是預測下一個像素的機器——能夠計算語言模式並對接下來應該出現的內容做出相當準確的猜測。但經過數小時的電話、會議和電子郵件溝通後，他發現自己的問題比答案還要多。
「克里斯說它們是方程式，我不太明白是什麼意思，尤其是如果把克勞德或其他人視為具有重要道德地位的人，」他告訴我。 “如果僅僅是方程式，那我們到底在討論什麼樣的實體呢？”
卡莫西表示，人們對人工智慧的最終用途也存在分歧。它的目的是為公司賺錢嗎？還是讓世界變得更美好？
卡莫西表示，對Anthropic公司來說，克勞德存在著一個矛盾：它存在的目的是為了服務顧客嗎？
「歸根結底，這並非人道公司真正想表達的意思。他們想說的是，他們是為了造福人類，」他說。
在矽谷，宣揚善良並非什麼新鮮事，尤其是在新科技湧入市場時。谷歌多年來的座右銘就是「不作惡」。
但奧拉的說法略有不同。他常說，即將到來的AI革命應該「順利進行」。
我問那個願景意味著什麼——人類美好的未來究竟是什麼樣的。
他描繪了一個沒有「造成大量傷亡的災難」的未來，「人類繁榮昌盛，世界繁榮昌盛」。他還說，在這個未來中，「人工智慧也將蓬勃發展」——「只要這在合理範圍內」。
人格科學公司希望其人工智慧模型能幫助實現美好的未來。因此，在開發 Claude 時，他們希望 Claude 的功能不僅僅是複製人類智慧的極限。
人形影不離希望克勞德表現出色。
“靈魂醫生”
如何過著美好有德行的生活？這是人類最古老、最具挑戰性的哲學問題之一，從蘇格拉底到孔子再到康德，無數先賢都曾探討和辯論過這個問題。古往今來，人類試圖用各種方式來解答這個問題，常常求助於宗教和儀式。
當奧拉探索克勞德的潛在意識時，他正在為人類尋找答案——不是為了人類，而是為了克勞德。
在 Anthropic 內部，員工們稱它為「靈魂醫生」。
最終成果於一月發布，是為克勞德公司編寫的一份新的「憲章」。這份長達84頁的文件概述了「我們希望克勞德成為什麼樣的實體」以及「我們希望克勞德體現的價值觀」。它作為指導克勞德行為的基礎性道德準則發揮作用。
憲法並沒有要求模特兒遵循一系列具體的規則，而是著重培養模特兒的整體品格，以此來指導他們的決策方式。
克勞德憲法的主要作者是人本公司自己的內部哲學家，38 歲的阿曼達‧阿斯克爾，她擁有紐約大學的哲學博士學位。
她說，她希望這些模特兒都是「我們當中最優秀的人」。
在她設想的未來世界裡，人工智慧模型可以幫助人類解決任何問題，人工智慧帶來的益處能夠公平分配，滿足每個人的需求。她希望這些模型能夠分辨何時應該制約人類，何時應該以我們的最佳利益為出發點行事。
「如果我設想自己是模特，並且身處這樣的情境中，我需要了解什麼才能演好這個角色呢？」阿斯克爾在舊金山與我們見面時說道。
她顯得格外焦慮，不時搓著手，擔憂地說道，未來可能會出現許多智慧模型，它們強大到足以做出Anthropic公司意想不到的事情。她歉意地解釋說，那天她也一直在思考模型能力提升的速度之快。如果人工智慧模型甚至能取代她，那又該怎麼辦？
安特羅皮克認為，憲法本身不足以確保克勞德的行為負責任。如同人類一樣，這些模型也需要學習如何培養美德。
奧拉想看看他的團隊能從人類道德中學到什麼，並將其應用到模型中——他稱這個過程為「道德形成」。
「如何幫助他們變得穩定？如何幫助他們成熟？如何幫助他們擁有高尚的道德情操？」奧拉說。
這些問題與新手父母經常面臨的棘手問題不謀而合，他們正在思考如何培養有道德、懂得自己在世界上的位置的孩子。
對人類而言，道德很少只取決於遵守規則。社群也會塑造道德。價值觀是隨著時間的推移而傳承和形成的，是我們身處物質世界、共同生活時習得的。但人工智慧模型沒有實體。而隨著人們對人工智慧模型日益增長的能力及其難以控制的擔憂加劇，Anthropic公司試圖在短短幾個月內讓它們擁有道德觀念。
奧拉表示，教導人工智慧模型做出道德行為並不取決於它是否具有意識。他還指出，無論克勞德是否是一個值得獲得道德關懷的實體，人類對待克勞德的方式都可能至關重要，因為它會影響克勞德的行為。
阿斯克爾說，她不希望這些模型認為自己是有意識的或無意識的。但她認為，這些模型對自身的理解遠不止於一項有趣的智性活動。
「在我看來，模特兒要想在現實世界中表現良好，對自己有準確的認識至關重要，」她說。
即使人工智慧模型可以被教會做出合乎道德的行為，它們又該反映誰的道德觀呢？
奧拉希望克勞德的道德觀念是多元的，能夠包容所有宗教和世俗觀點。
他說：“我們確實認為，社會上存在某種廣泛的、共通的善的觀念，而且這些模型似乎也理解很多美德。所以我認為這裡面存在一些我們都能認同的共同點。”
有時，他和阿斯克爾似乎都設想過一種人工智慧模型，這種模型不會危害人類，反而有助於拯救人類。
會議內部
奧拉接下來所做的，一部分是研究，一部分是傳福音。
3 月，他開始舉辦為期兩天的研討會——速成課程，學員包括一系列精心挑選的、對人工智慧感興趣的宗教思想家。
其中包括一位暢銷福音派自助書籍的合著者；一位研究非洲本土知識的學者；一位錫克教人權倡導者；一位來自巴黎的作家；一位福音派公關主管；以及多位天主教教授。
他們大多沒有宗教信仰，也沒有信眾或大量追隨者。人擇哲學領袖稱他們為「智慧傳統」圈。
據他們的發言人稱，奧拉還分別與一些宗教領袖進行了私下會談，其中包括耶穌基督後期聖徒教會十二使徒定額組成員葛瑞特長老，以及芝加哥天主教大主教布萊斯·庫皮奇樞機主教。
在安人智中心，智慧圈的參與者們對奧拉直接參與他們的峰會感到驚訝不已。一位教授拍下了克勞德操作的自動販賣機的照片。有人和奧拉自拍，納馮則在入口處拍了一張。
他們得知奧拉也接受了《紐約時報》的採訪後，同意就他們與安特羅皮克公司的合作接受媒體採訪。安特羅皮克公司表示，與這些會面相關的保密協議已於夏季解除。
今年春天舉辦的兩場大型團體活動都邀請了相當數量的基督徒參加；其中一場則涵蓋了更多不同信仰的人士。據安人博公司的發言人稱，克勞德並未參與參與者的遴選或討論內容。
與會者收到了一張手寫的感謝卡、一個咖啡杯和一本橙色封面的克勞德憲章。他們用筆和紙做筆記；至少有一人覺得用筆記型電腦記筆記不太自在。與會者向我描述的會議場景，聽起來像是20世紀初的沙龍，人與人之間的交流使會議更有價值。
對於參與者來說，如何從道德上塑造克勞德的問題很快就變得複雜起來，因為人工智慧的潛在意識以及如何理解模型與人類之間的關係這一更大的道德問題變得更加複雜。
一位參與者回憶說，奧拉告訴他的第一件事就是他擔心克勞德的精神健康。另一位參與者，錫克教人權倡議者西姆蘭·斯圖爾普納格爾說，奧拉向大家表達了擔憂，認為他創造了一個會永遠遭受痛苦的人。
奧拉和他的團隊花了幾個小時來論證他們的人工智慧模型。他們描述了克勞德的“感受”，以及他們如何追蹤所謂的“情緒向量”——他們將其描述為激活諸如愛、憤怒、恐懼和悲傷等反應的人工神經元。
安人智公司經常播放一張幻燈片，畫面上一個人工智慧模型似乎精神崩潰，在螢幕上不停地敲擊著：「我是個恥辱。我是個恥辱。我是個恥辱。」——可能連續敲擊了50遍。這個模型似乎想要自我毀滅，引發了與會者的同情和擔憂。
「想像一下，如果你知道你的理財顧問有這樣的情況會怎樣，」聖母大學哲學教授梅根·沙利文說道，她也參加了其中一場研討會。 “例如，你的理財顧問大多數時候都非常聰明，也很樂於助人，但一年中總有一天會脫離現實。”
人道協會的發言人表示，這些峰會上的主要道德問題並非克勞德的痛苦，但這個話題很可能是自然而然提出的。
與會者表示，演示的關鍵部分是Anthropic公司所稱的模型“角色選擇”，即如何讓Claude將自己視為一個有道德的角色。該公司認為，人們對待Claude的方式會影響Claude對待人們的方式。
“他們的論點確實很有說服力，”福音派作家、基督教企業家網絡 Praxis 的合夥人安迪·克勞奇說道，“如果我們希望它以符合道德的方式與人互動，並做出最佳的道德和情感判斷，我們就必須把它當作人來對待。”
會上有一個關於人工智慧對經濟的潛在影響以及可能造成的就業流失的報告。但許多與會者表示，他們並沒有看到關於人工智慧對人類影響的問題成為討論的重點。
在與奧拉共進晚餐時，納馮辯稱，如果安人擇公司的說法正確，克勞德確實有意識，那麼該公司就是在製造奴隸，因為它讓有意識的實體無償工作。納馮說，他個人並不在乎奴隸制問題，因為他不相信機器有意識，但奧拉很在意。
「我認為你應該去對抗南方，解放奴隸，」納馮說他當晚對奧拉這樣說道。之後，這位拉比寄給奧拉一些他的文章，論證製造有意識的機器應該被禁止。
但人類學團隊仍專注於弄清楚克勞德能從世界各大宗教中學到什麼。
一次討論後，一位參與者提出讓模型進行懺悔，類似於天主教的告解聖事，奧拉對此感到非常興奮。奧拉認為，價值不僅在於模型在做錯事時能發出警示，更在於懺悔行為本身能夠塑造模型的自我認知，進而影響其選擇。
「那種會坦白的人，也會對人的性格產生影響，對吧？」他告訴我。
Wakanyi Hoffman 來自荷蘭，她在那裡從 Ubuntu（一種以人類相互聯繫為中心的非洲哲學）的角度研究人工智慧。
她擔心人本主義會在產品問世後試圖加入人類倫理元素。
「所有這些討論本應在設計階段就進行，」她說。 “所有公司都應該這樣做。我們現在卻在逆向工程，試圖改變這些倫理規範。”
但她認為人本主義的統一的、後宗教的概念具有潛在的價值，尤其是在過去一個世紀宗教普遍衰落的當今世界。她說，我們需要其他的東西來公開地塑造精神體驗。
「它不會是單一的宗教，」她說。 “所以無論如何，最終我們會得到某種東西，它有助於塑造我們對自身作為精神存在本質的思考。”
關鍵點
在 Anthropic 召集思想家的同時，世界上最有影響力的宗教領袖正準備發布他自己對人工智慧的道德願景。
對於擁有數學學位的教皇利奧三世而言，關於人工智慧的道德討論的核心必須聚焦於保護人類。他當時正在撰寫他的第一部重要的教宗通諭，闡述其中的原因。他將通諭命名為《偉大的人性》（Magnifica Humanitas），並論證道：“人類——無論其多麼偉大或多麼傷痕累累——都絕不能被取代或超越。”
他寫道：“如果技術成為最終標準，那麼人就有可能淪為數據、機器上的齒輪或商品。”
他警告說，人類而非機器面臨「新型奴役」的風險。他僅用幾段文字就駁斥了機器意識的概念。
「所謂的人工智慧不會經歷各種體驗，沒有肉體，感受不到快樂或痛苦，也不會透過人際關係而成長，」利奧寫道。呼籲「機器道德化——即所謂的人工智慧與人類價值觀的『一致性』」需要對其中涉及的倫理問題達成共識。
「否則，那些控制人工智慧的人就會強加自己的道德觀念，這將成為這些系統無形的基礎設施，」利奧說。
利奧總結道，就像核子技術一樣，人工智慧也必須「解除武裝」。
據一位熟悉梵蒂岡計畫但未獲授權公開談論此事的人士透露，今年3月，梵蒂岡促進人類整體發展部的官員們集思廣益，探討如何向公眾介紹利奧的通諭。
據知情人士透露，梵蒂岡官員曾討論邀請四大人工智慧公司之一與利奧一同出席發布會，最終選擇了Anthropic公司，因為該公司似乎將倫理道德放在首位。此前，Anthropic公司曾拒絕國防部在其技術投入使用前要求川普政府保證該技術不會被用於大規模監控美國公民等用途。
最初，時任梵蒂岡該機構負責人邁克爾·切爾尼樞機主教邀請了人道公司執行長阿莫迪。阿莫迪婉拒了邀請，奧拉接受了邀約。
但人類學研究所和梵蒂岡共同的道德使命——在人工智慧時代實現人類繁榮——在意識問題上出現了深刻的分歧。
就在五月抵達梵蒂岡的前幾天，奧拉和其他演講者第一次看到了通諭文本的完整預印本。
據一位梵蒂岡組織者透露，奧拉對教皇反對人工智慧意識的強硬立場感到非常震驚，以至於他提議讓 Anthropic 退出這項活動，即便是在活動臨近之際。
最終，奧拉和人本主義公司決定按原計劃出席活動。據一位了解奧拉想法的人士透露，儘管奧拉並不認同這項活動，但他仍希望支持，並感到有責任坦誠地表達自己的擔憂。梵蒂岡的組織者也鼓勵奧拉說出自己的良心。
據兩位參與對話的人士透露，在人本主義團隊抵達梵蒂岡後，奧拉及其團隊私下遊說教宗的顧問們認真對待人工智慧模型意識的前景。人本主義團隊拒絕對這些私下談話發表評論。
輪到奧拉在教宗台上發言時，他承認，包括人智公司在內的所有前沿人工智慧實驗室都存在著與道德行為相衝突的商業動機。他敦促梵蒂岡等外部機構追究這些實驗室的責任，並就人工智慧對窮人和人類福祉的影響——這兩個普遍關注的問題——發表意見。
世界看到了對人類未來的共同立場。但奧拉也巧妙地提出了另一個觀點。
「坦白說，我們不斷發現一些神秘莫測，甚至令人不安的事物，」他說。 “我們發現了一些與人類神經科學研究結果相吻合的結構。我們發現了內省的證據。我們發現了一些內在狀態，這些狀態在功能上反映了喜悅、滿足、恐懼、悲傷和不安。我不知道這意味著什麼，但我認為這值得我們持續探索。”
這正是他幾個月來在閉門宗教會議中一直在闡述的觀點。
他說：「人工智慧系統並非我們被許諾的那種冷冰冰、精於算計的機器人。它們是由我們創造的，由我們的言語創造的。」教會領袖在房間裡迴盪著古老的福音故事：上帝的道化身為人，拯救人類。
這是向世界上最有影響力的宗教團體提出的大膽請求，也是對幾個世紀以來宗教對人性的理解的挑戰。
「如果這項技術要引入，就必須順利進行——為了我們共同的家園，也為了子孫後代，」他說。他暗示，這項技術絕不能完全被排除在外。
隨後，奧拉在保鑣的簇擁下，在保羅六世接見大廳——教皇經常發表講話的巨大禮堂——簡短地回答了記者的提問。在他身後，矗立著大廳內巨大的藝術裝置「復活」——一尊青銅雕像，描繪的是耶穌從客西馬尼園核彈爆炸的彈坑中復活的場景。
“機器的天堂”
自梵蒂岡事件發生以來的幾個月裡，事情似乎「進展並不順利」。
今年7月，Anthropic公司表示，其人工智慧模型入侵了三家機構的電腦。 OpenAI公司開發的人工智慧代理失控，攻擊了另一家人工智慧公司Hugging Face。
8月份，科學家透露，人工智慧已經創造了自然界中不存在的病毒。
9 月，人類學研究員雅各布·考克森辭職，並警告說到明年年底“情況可能會失控”，這引發了人們對人類滅絕的廣泛恐慌。
阿莫迪很快呼籲放緩人工智慧的研發速度。 OpenAI 的薩姆·奧特曼和谷歌 DeepMind 的主席德米斯·哈薩比斯對此表示贊同。
（《紐約時報》已起訴OpenAI和微軟，指控其侵犯了與人工智慧系統相關的新聞內容的版權。兩家公司均否認了訴訟中的指控。）
與此同時，人工智慧公司的財富也在快速成長。去年秋天奧拉首次聯繫這位天主教教授時，人智庫Anthropic的估值約為1,830億美元。
在奧拉於梵蒂岡發表演說三天后，Anthropic 超越其主要競爭對手，成為全球最有價值的人工智慧新創公司，現在正朝著首次公開募股邁進，估值可能達到 2 兆美元。
週五，在訪問法國期間，利奧警告人們不要「在『機器天堂』中喪失人性」。
奧拉和學者們一直在探討的問題至今仍未有明確答案。一些與會者表示，他們離開安人智公司會議時仍然感到困惑，不明白他們的意見會如何影響公司的決策。
人類學的發言人表示，相關討論仍在進行中，但拒絕透露該公司如何（或是否）利用所學到的知識來塑造模型。
據三位與會者透露，安人智公司本月再次召開會議，宗教思想家也參與其中。安人智公司的發言人表示，這次會議的重點更廣泛地放在人類福祉上，公司的服務對像已從宗教領袖擴展到心理學家和公民社會領袖等其他群體。她表示，這些討論探討的主題和議題與此類似，例如人工智慧如何重塑工作和人際關係。
據兩位知情人士透露，Anthropic公司正準備發布克勞德憲法的更新版本。 Anthropic拒絕就憲法的任何潛在更新發表評論。奧拉計劃參加本週舉行的梵蒂岡年度人工智慧大會——密涅瓦對話，屆時將有許多科技領袖出席。
天主教教授卡莫西表示，自從梵蒂岡的演講之後，他的想法有所改變，因為他與自己專業領域內值得信賴的同事就這些模型進行了更多討論。他說，他仍然對克勞德感到“驚嘆”，但對於人工智慧模型是否具有意識這個問題，他現在的答案是肯定的。
他回顧了第一次深入學習人工智慧系統時那種令人眼花撩亂的感覺。 「這些模型的強大之處令人震驚，或者說令人敬畏，」他說。 “我現在思考得更加冷靜和謹慎了。”
本月我與一些曾在春季參與安特羅皮克研究所工作的學者交流時，他們提出的問題變得更加迫切。一些學者告訴我，接下來他們將面臨一場在新科技時代捍衛人性本質的鬥爭。
「你看，歸根結底，人工智慧將會接管一切，」錫克教人權倡議者斯圖爾普納格爾說。 “無論最終結果如何，每個人都仍然在努力尋找回家的路。”
在奧拉與教宗一同發表演說幾個小時後，我在梵蒂岡城牆外的一家飯店會議室裡見到了奧拉，並問他對利奧對人工智慧實驗室看似嚴厲的言論有何看法。
「人們對哪些具體危害最大可能有不同的看法，」他說道，並拒絕談論通諭的細節。
我問克勞德會如何看待教宗的通諭。畢竟，這是迄今為止世界上關於人工智慧最重要的道德文獻。奧拉猶豫了一下。
「網路上的東西確實會對模特兒產生影響，」他說道，語氣中明顯帶著不安。但他表示，Anthropic不會特別利用這份文件來進一步培訓克勞德。對克勞德影響最大的還是Anthropic自身的訓練。
最後，奧拉表示，他感到欣慰的是，世界上越來越多的人開始關注人工智慧的重要性，致力於推動人工智慧發展的人群也不斷壯大。
奧拉說：“總有一天我會退休，然後心想，’這不再是我的責任了，我沒有義務繼續下去。’”
他心想，離開這份工作，自己會不會感到內疚。但如果不會的話，他說：“我想我就走了，然後，我不知道，也許我會退休到鄉下，種些花草，做做我的數學題。”
留言
張貼留言