我對於有人試圖賦予人工智慧模型某種宗教般的力量,或讓人們放棄自己的判斷、轉而服從人工智慧,感到非常不安。我認為,這確實是一個攸關人工智慧安全的問題。
I am very uncomfortable about people trying to ascribe religious force or a surrender of human judgment to AI models, and think it is a real safety issue.
翻譯成中文
意思是什麼?
https://www.axios.com/2026/10/03/openai-anthropic-altman-amodei-religious-force-models
人工智慧,乖乖,宗教,,西方經典,道德意識,晶片護身符,人工智慧黨書記
這段英文可以翻譯為:
「我對於有人試圖賦予人工智慧模型某種宗教般的力量,或讓人們放棄自己的判斷、轉而服從人工智慧,感到非常不安。我認為,這確實是一個攸關人工智慧安全的問題。」
OpenAI 奧特曼:賦予 AI 模型宗教色彩是「安全問題」
https://deepltranschinese.blogspot.com/2026/10/blog-post_186.html
Ben Berkowitz
OpenAI 執行長山姆·奧特曼(Sam Altman)站在彩色點陣背景前。
OpenAI 執行長山姆·奧特曼。照片來源:Heather Diehl/Getty Images
OpenAI 執行長山姆·奧特曼於週六暗諷 Anthropic 及其在 AI「靈魂」方面的研究,表示他對賦予模型某種宗教力量的想法感到「非常不舒服」。
重要性: 這成為奧特曼與其前同事達里奧·阿莫代(Dario Amodei)之間的另一個分歧點。據報導,阿莫代的公司一直在尋求跨宗教學者的合作,為具有道德與意識的模型立論。
不過,部分頂尖 AI 專家開始公開表態,反對 Anthropic 將意識注入模型的做法。
各方說法: 奧特曼在 X(前 Twitter)上發文表示:「對於有人試圖賦予 AI 模型宗教力量,或是放棄人類自身的判斷力而臣服於 AI,我感到非常不舒服,並認為這是一個嚴重的安全問題。」
背景: 本週早些時候,《紐約時報》報導指出,Anthropic 共同創辦人克里斯多福·奧拉(Christopher Olah)一直在與宗教領袖會面,探討模型意識的問題,同時也研究如何將道德與道德行為注入 AI 中。
《紐約時報》指出,奧拉甚至曾考慮過讓模型進行天主教式告解的可能性——不僅是為了承認錯誤,更是為了塑造其未來的行為。
大局觀: 靈性問題突然成為圍繞 AI 未來發展的衝突焦點之一。
身為 AI 尖銳批評者的教宗利奧(Pope Leo)於週五呼籲教會與藝術家結盟以捍衛人類的創造力,並表示:「演算法缺乏人性火花。」
字裡行間: 教宗的立場讓一個根本問題再次成為焦點:模型是否擁有靈魂與情感?
《紐約時報》報導,在 5 月梵蒂岡的一場活動前,奧拉曾試圖說服教宗的顧問,希望他們能更認真地看待具意識模型的前景。
目前為止,其他頂尖科學家似乎正站出來反對這一觀點。
Google DeepMind 首席研究科學家強·巴隆(Jon Barron)在 X 上發文指出:「看到一些 AI 研究同行不斷試圖提高『檢查點(checkpoints)』與『框架(harnesses)』的道德地位,我感到相當不安。我希望我們這些『血肉之軀隊(Team Meatbag)』的夥伴能拒絕這種思潮,繼續專注於解決真實問題並幫助真實的人類。」
官方回應: OpenAI 與 Anthropic 均未立即回應針對奧特曼貼文的置評請求。
結論: AI 安全的討論大多集中在網路安全與生物武器等議題上。
然而,真正的挑戰可能比這些更具靈性層面。
一、逐句解釋
- I am very uncomfortable:我感到非常不安、反感或難以接受。這不只是一般的擔憂,而是對某種現象抱持強烈的疑慮。
- people trying to ascribe religious force to AI models:有人試圖將宗教般的力量賦予人工智慧模型。
這裡的 religious force 並非單純指宗教信仰,而是指人們把 AI 當成具有超越一般人類智慧的權威,甚至視為具有神性、啟示能力或不可質疑地位的存在。
- or a surrender of human judgment to AI models:或者把人類自己的判斷權交給人工智慧。
Surrender 原本有投降、放棄抵抗的意思。在這裡,它強調人類不再獨立思考,而是把決定對錯、判斷真偽,甚至選擇人生方向的權力交給 AI。
### 二、這句話的新聞背景:OpenAI 與 Anthropic 的 AI 靈魂之爭
根據 Axios 2026 年 10 月 3 日的報導,這段話出自 山姆・奧特曼(Sam Altman),也就是 OpenAI 執行長。他的發言看似在談宗教,實際上涉及 AI 的道德、意識,以及人類是否應該把道德權威交給機器。
Sam Altman:反對把 AI 神格化
他擔心人們賦予 AI 宗教般的權威,最後不再自行判斷,而是服從模型的答案。這種現象可能讓人類失去對 AI 的實質控制。
Dario Amodei:探索 AI 的道德與意識
Anthropic 執行長。其公司共同創辦人 Christopher Olah 據報與不同宗教領袖交流,探討 AI 是否可能具有意識、如何理解道德,以及如何讓 AI 建立更好的道德行為。
這場爭論並不是簡單的「支持宗教」與「反對宗教」,而是兩個不同的問題:
* 宗教與哲學能否幫助 AI 建立道德? Anthropic 探索的是人類長期累積的倫理思想,能否成為 AI 道德設計的參考。
* AI 是否會變成人類新的道德權威? 奧特曼擔憂的是,人們可能從參考 AI 的建議,逐漸走向崇拜 AI、服從 AI,甚至認為 AI 比人類更有資格決定對錯。
這兩件事其實不能混為一談。向宗教與哲學學習,不等於認定 AI 有靈魂;研究 AI 的道德能力,也不等於要求人類放棄判斷。
### 三、真正值得警惕的是:人類會不會把思考的責任交給 AI?
我認為,這段話最值得注意的地方,是它揭示了 AI 發展中一種比技術失控更隱蔽的風險。
可以分成三個層次:
* 工具依賴: 人們習慣讓 AI 替自己搜尋、整理、分析,逐漸減少獨立思考。
* 認知依賴: 人們開始相信 AI 的分析必然比自己客觀,忽略模型可能出現的錯誤、偏見與幻覺。
* 精神與道德依賴: 人們進一步將 AI 視為具有超越人類智慧的存在,甚至把人生意義、道德選擇和價值判斷交由 AI 決定。
第三個層次尤其值得警惕。因為一旦人類不再質疑 AI 的答案,模型即使沒有真正的意識或自主意志,也可能透過人類對它的信任,間接取得巨大的社會影響力。
這也是為什麼奧特曼將其稱為真正的安全問題,而不只是哲學上的抽象辯論。
我的進一步解讀
這個問題甚至可以延伸成一個更深刻的哲學追問:
當人工智慧愈來愈擅長回答人類的問題,人類是否也會逐漸喪失提出問題、懷疑答案,以及決定何謂正確的能力?
如果 AI 不只是人類的知識工具,而逐漸成為人類的思想導師、道德裁判,甚至精神寄託,那麼我們面對的就不只是人工智慧的進步,而是人類主體性的轉變。
這也與你先前關注的「AI 文明之爭」形成呼應:美中 AI 競爭不只是晶片、算力與演算法的競爭,更是誰來決定 AI 的價值、道德與精神方向的競爭。
真正的問題或許不是 AI 有沒有靈魂,而是人類會不會因為相信 AI 有靈魂,最後放棄自己的靈魂。
留言
張貼留言