人工智慧威脅民主，但並非專家所想的那樣。
2019年2月11日，唐納德·川普總統在橢圓形辦公室展示了已簽署的行政命令《維護美國在人工智慧領域的領導地位》。華盛頓在很大程度上是透過此類行政命令來制定其人工智慧政策，繞過了國會對行政權力的製衡。 （白宮/喬伊斯·N·博戈西安攝）
人工智慧威脅民主，但並非專家所想的那樣。
「深度偽造」與「人工智慧驅動的政變」雖佔據頭條，但更大的危險卻更為隱晦——自動化與決策層的捷徑，正逐漸侵蝕民主制度所倚賴的體制性制衡。
我們往往以電影化的極端方式想像 人工智慧 （AI）對民主的影響。主流討論 集中在 深度偽造和合成虛假資訊操縱選舉上，而技術專家則 警告說 ，人工智慧可能引發政變或自主軍事系統等後果嚴重的潛在威脅。一些「加速主義者」夢想著人工智慧起草的法律和大型演算法最終能 最大限度地減少 拖累政府的官僚體系。然而，這些論述掩蓋了一個不那麼戲劇化，卻更有可能發生的後果：人工智慧將透過對機構決策和行使權力方式的日常化、看似有益的改變，逐漸掏空民主。
制度摩擦為何能保護民主
民主制度的設計本身就帶有官僚色彩。一項立法從構思到投票表決，必須跨越數千道障礙；從投票到最終實施，又要經歷數千道障礙。政策每經過一層摩擦，就可能面臨抗議、修改甚至完全廢除。正是這種制度性的摩擦，防止權力集中在一位民選官員之手。例如，在美國，國會可以 否決 總統的新權力，最高法院可以 推翻 非法裁決，各州可以 在其管轄範圍內抵制聯邦政府的行動 ，公務員也必須 遵守 法律和程序。
人工智慧對維繫民主制度運作的製度摩擦構成了生存威脅。例如，美國政府的人工智慧行動計畫 設想由 人工智慧代理處理大量政府工作。雖然取消傳統流程可能提高政府效率，但也可能削弱透明度，損害制度問責。
澳洲的 「機器人債務」 計畫敲響了警鐘。 2015年，澳洲政府開發了一種演算法，旨在自動執行合規官員核對福利申請與稅務記錄的工作。該計劃 錯誤地向約52.6萬人（其中許多人本就經濟拮据）發出了79.4萬份債務通知，總金額超過17.5億澳元（約合12.3億美元）。至少有 三名 受該計劃影響的人因此自殺。澳洲本意是建立一個更公平的福利制度，最終卻釀成了嚴重的司法不公，這表明即使是最仁慈的政府，在追求效率提升的過程中也可能面臨災難性的風險。程序性檢查和人工核查是民主問責制不可或缺的機制，它們有意放慢了速度。人工智慧所承諾的速度優勢與這種制度性的摩擦從根本上是相反的。
人工智慧如何集中國內外的權力
人工智慧的快速發展也為各國政府提供了前所未有的權力集中動力。 2022年11月，在國會通過《 金融資料透明法案》 （FDTA）的兩週前，OpenAI 發布了 ChatGPT的第一個版本，當時它甚至 難以完成基本的算術運算。四年後，ChatGPT就 對一個存在了80年的未解數學難題 給了原創性的證明。同時，FDTA的報告要求卻尚未做出任何改變 。如果人工智慧的立法程序從ChatGPT發布之日開始，那麼相關法律恐怕至今都難以生效，更遑論反映出這項技術目前的強大功能。
監管速度與技術變革之間的這種差距，解釋了為什麼加拿大選擇透過總理 馬克·卡尼的辦公室 推出其聯邦 人工智慧戰略，以及為什麼美國總統喬·拜登 和 唐納德·川普大多透過行政命令 來制定其聯邦人工智慧政策 。然而，為了追求速度而破壞民主制度，最終會導致權力集中，削弱民主監督。一旦繞過立法機構以求速度成為常態，就不難想像，未來某些別有用心之人會將攫取權力偽裝成監管人工智慧的崇高努力。
隨著人工智慧將民主權力集中到行政部門，國際秩序也將向全球超級大國傾斜，儘管原因有所不同。隨著模型能力的提升，獲取人工智慧的機會將逐漸類似於獲取勞動力。誰控制了演算法、擁有了 資料中心並制定了治理標準，誰就將越來越有能力利用這些資源將 資本轉化為生產力。這種前所未有的能力將使主導人工智慧發展競賽的超級大國——美國和中國——掌握巨大的政治和經濟權力， 迫使其他國家不得不從這些出了名反覆無常的「房東」手中租用其產業的底層智慧。
為什麼人工智慧對民主的威脅是隱形的
制度摩擦的減少，加上各國政府在國內和國際上集中權力的動機增強，必將導致全球民主的持續衰退。
人們很容易認為民主倒退會顯而易見——一位具有威權傾向的民選領導人會宣布戒嚴或逾期任職，而問責機制也會做出相應反應。但實際上，民主的侵蝕是隱形的。透過技術手段減少官僚機構的努力會削弱人為監督，而旨在跟上人工智慧發展步伐的行政命令會掏空民主制度的相關性。最令人擔憂的是，人工智慧的權力集中並不區分意圖：澳洲政府為了簡化福利領取流程，逐漸建構了一個與本國公民死亡相關的演算法網路。人工智慧對民主採取的每一步行動都可以單獨辯護，只有當這些行動累積起來，我們才會意識到我們失去了什麼。沒有人會宣布製度摩擦的終結。它會在我們意識到之前就消失。
作者簡介：薩瓦爾·蘇里和蘭迪·張
薩瓦爾·蘇裡 是巴黎政治學院的埃米爾·布特米學者，此前曾在阿布達比的安瓦爾·加爾加什外交學院工作。他關於人工智慧和新興技術的研究成果曾發表在 《國家利益》 和 《環球郵報》。
張蘭迪 是人工智慧政策與戰略研究所（IAPS）的訪問學者，主要研究前沿軍事人工智慧和權力集中問題。他曾與美國國務院合作，為中非共和國制定國家人工智慧政策，並曾在香港大學人工智慧政策設計實驗室工作。他是莫爾黑德-凱恩學者和新興創業基金會的資助對象。
留言
張貼留言