「機械公敵」情節即將成真？戰爭機器人開發促成新一波軍備競賽

鳴人選書 04 May, 2023

讓武力更為昂貴

發展全球歸責系統及檢查制度，以確保武器和電腦系統與該系統制度兼容，是昂貴的。這從一般經濟學原理來說，是個問題，但是，破壞性技術的顛覆經濟學，反而認為施加這個成本是好的：它會嚇阻大量囤積那些會造成人類傷害的軍備機器的行為。

有很多方法可以使武力部署的成本加高，從對殺手機器人的部署施加法律要件，到強制人類控制武力任務，再到針對這類技術課稅等等。這些限制，就像對監控的限制一樣，將戳到戰爭未來主義者的痛處，因為他們更喜歡能自由發展和部署自主武力。但是，這裡的經濟低效率，不會只是繁重的官僚行政事務——它也反映了人類價值觀。

機器人化的軍事或警察國家，顯然是對自由的威脅；當我們談到國家暴力時，對武力部署課以有意義的人類控制成本，也是一種好處。「半人馬」戰略將人類專業和AI互相結合，提高了軍事效率和倫理責任；這不僅因為「按鈕」戰爭極可能就是以錯誤為前提的（在假新聞、不負責任的平台和先進的影音偽造技術的世界中，這種可能性更令人不寒而慄），而且監控和社會控制應該要耗費昂貴的氣力，以免「要塞國家」（garrison state）廉價地監視和控制我們的生活。

全球政治經濟也很重要，武器投資就是對於已經感知到的威脅所做出的回應。2018年，美國將軍備支出提高到6,490億美元，其次是中國的軍備支出2,500億美元。中國的軍備支出在二十年間增長許多，而至少自2013年以來，在其持續增長GDP中，它一直保持占GDP一個穩定的百分比（1.9%）。沙烏地阿拉伯、印度、法國和俄羅斯則是次大軍備支出國，這幾個國家購置了六百至七百億美元的軍事裝備和服務。所有的數字都小得令人誤解，因為它們往往不包括國內安全機制設備、緊急撥款和傷兵長期照護（或支持遇難者家屬）的支出。

美國的國防支出往往超過軍備支出排名其後七個國家的支出總和，這種大規模的軍事力量增強現象，可能會讓未來的歷史學家認為它是國家資源嚴重誤導性的投資。諷刺的是，即使在生物安全方面投資了數百億美元，這個世界領先的軍事「超級大國」卻在2020年被新冠病毒摧毀，而許多其他國家則靈活地減少了確診病例和死亡人數。

正如法國智庫蒙田學院（Institut Montaigne）的政治科學家多米尼克．莫西（Dominique Moïsi）所解釋的，「美國為一場錯估的戰爭做了準備，它做足了準備面對新的九一一事件，但是迎來的卻是病毒。」因為擔憂幻想的威脅，美國領導人投資了數萬億美元的武器，卻在預防措施上節省預算，而這些預防措施原本可以挽救更多生命，美國在這次疫情中所失去的性命，比起在越南、伊拉克和阿富汗等戰爭中失去的人命總和還要多。

依據諾貝爾經濟學獎得主約瑟夫．史迪格里茲（Joseph Stiglitz）和哈佛大學甘迺迪學院教授琳達．比爾姆斯（Linda Bilmes）的估算，截至2008年為止，美國人至少為中東戰爭投入了三兆美元，這個數字由比爾姆斯在2016年更新為五兆美元。許多評論家認為，儘管在對抗塔利班方面取得了一些重要勝利（如賓拉登等恐怖分子的死亡），但是，這數兆美元的戰爭投入，實際上卻損害了美國的長期戰略利益，而美軍的軟硬體投資策略，也受到戰爭分析師的廣泛批評。

同樣地，中國研究者的分析，揭露了中國針對新疆的高壓手段投資（包含傳統的保安投資以及由AI驅動的人臉辨識和分類系統），也破壞了中國共產黨（CCP）在國內外的更遠大目標；中國政府表面上是為了應對心懷不滿的穆斯林所造成的一系列持刀襲擊事件，現在已將數十萬人關押進再教育營裡。中共還推廣高科技模式的監控、忠誠度評估和評分系統。

香港震懾人心的抗議活動，至少部分是香港居民為了抵抗不負責任且集權的統治階級所主導的現況。土耳其社會學者澤奈．圖費克吉（Zeynep Tufekci）說，對新疆式末日遊戲的恐懼——到處都是監視器（甚至連家裡都有）和對政權忠誠度的不間斷評估——加劇了香港抗議者的絕望。香港人的抗爭，幫助翻轉了2020年的台灣大選結果；雖然台灣的國民黨在2019年民調一直處於領先地位，但是，隨著香港抗爭議題的延燒，親中立場的國民黨也逐漸失去支持。傾向獨立的台灣總統蔡英文順勢贏得連任，並將繼續培養走向兩岸徹底分治和文化獨特性的公共氛圍。

由於第四章提到的公共領域自動化趨勢，上述最後一段中的觀點不太可能在中國得到廣泛迴響，因為AI強化的言論審查制度可能在短期內有助於鞏固政權的權力，這種媒體武器化，就是要加強公眾凝聚抵抗外部介入的氛圍。可是，長遠而言，即使是非民主政府也必須依賴一些反饋機制來確定什麼有效、什麼無效、什麼有助於合法性、什麼助長了悶燒的民怨。正如同政治學教授亨利．菲洛（Henry Farrell）所主張的：

一個合理的反饋循環可以看到偏見導致錯誤，再導致進一步的偏見，而且沒有現成的方法可以糾正它。當然，威權主義的一般政治，以及典型不敢糾正領導人的態度可能會加劇這個問題，即使這些領導人的政策正帶著大家走向災難。領導人有缺陷的意識形態（我們都必須研讀習同志思想才能發現真相！）和演算法（機器學習是解決萬事的魔法！）有瑕疵的預設，也可能會以非常不幸的方式相互強化。

再一次地，強就是弱的主題反覆出現；中共極致超凡的力量，使它能夠如此密切地監控和塑造言論表達，但是，當這種權力扼殺了批判性反饋時，國家的強硬僵化就會變得易碎和虛弱。

這並不是說中國的大國競爭對手美國，在當代治理模式方面可以提供很多範例；美國自己正在滑向後民主狀態，這情形要部分歸因於美國自己已經日益自動化的公共領域。碎片化的媒體無法反映和維護基本的社會規範，以抵抗破壞性政策、捍衛公平選舉。

神經學家羅伯特．伯頓（Robert A. Burton）推測，川普總統可以被模組化為「黑盒子、第一代人工智慧總統，完全以自我選擇的資料和大幅波動的成功標準所驅動。」菲洛認為中國領導人習近平對於反饋意見視而不見，伯頓則描述川普是完全隨心所欲、不斷用憤世嫉俗的修辭訴求，來確立「什麼有效」的施政，以此來轉移對他多重失敗的指責。無論過去美國主導的全球秩序有什麼優點，川普政府都對其不屑一顧，也深深傷害了它的未來前景。

僅僅是權力的積累，並不能保證明智的治理，國際體系的多極化，不只是大國治理失敗的可能結果，對保護全球社會免於受到過於極權專橫或不負責任行使權力的霸權國家過度行使權力而言，也有其必要性。總體上逐步降低破壞能力，與確保安全聯盟有足夠的軍力去阻止大國的侵略和非國家行為者的恐怖主義，兩者之間具有微妙的平衡關係。

有些國家可能需要在國防上投資更多（包括領先的AI技術），但是，一個國家目前在軍備武器上的支出越大，其公民就越應該注意它可能增溫「要塞國家」和軍備競賽之間的動態關係，正如同本章前述段落所批判的內容一般。

傳統公共財政專家曾提出經典的「槍與牛油」（guns and butter）交換關係。增加服務人民的支出，就是削弱戰爭國防的立場；但是，這種國內支出實際上反而可以拯救政權，將資源投注內政，等於減少用於軍備競賽和自欺欺人的武力展示。國家越負起責任，為公民提供高品質的健康、教育、住房和其他生活必需，就會減少投注於為了帝國擴權、讓軍事AI毫無拘束進展的各種計畫。

即使我們可以理解，一個較小或較貧窮的國家投資購買致命自主武器以抵禦大國的掠奪，也有可能激怒處境相似的鄰居，競相投資以保持自己的軍備相對優勢地位。比較好的解決方案，應該是建立戰略聯盟以平衡武力。

即使簽訂了正式條約協議，因為實質監督軍備控制協議，有其內在的困難，自我克制的保證也只是配套措施之一，以防止AI驅動軍備競賽。對於具有緊迫性與必要性的計畫，例如國防，持續不斷的社會關注也非常重要。

合作的邏輯

對於大量研究人員（通常由軍方或其承包商直接或間接資助）來說，自主機器人武器的進展是無法避免的，他們用滑坡邏輯來推論：人類對機器的控制是個光譜，一旦初始的步驟啟動了，就沒有清楚的原則能阻止進一步授予自動化系統自主權。然而，科技並不需要遵循這樣的發展路徑，合作的形式或是無情的競爭模式，都是可行的。社會規範過去曾經而未來也將繼續阻止許多可能的武器的產生。

因為涉及無數的變數，殺手機器人的邪惡問題並沒有解決的方法，但是，我們可以從歷史上類似的困境去學習，而變得更有智慧；這裡我們可以從核子擴散國際政治經濟學者身上學到很多，例如，伊蒂爾．索林根（Etel Solingen）研究了為什麼有些國家和地區傾向投資大規模毀滅性武器，而其他國家地區則沒有。國際政治學經典的「現實主義」理論強調軍備競賽的力量，將各國「走向核武」的決定，歸結於他們的不安全感（若是反過來看，這其實又由對手和敵人的力量決定）。

但是，現實主義理論並沒有解釋，為什麼這麼多國家未能研製出核彈，即使它們面臨的安全威脅比新舊核武大國所面臨的威脅更大。索林根認為政治領導在此扮演很重要角色，各國可以理性地決定，要聚焦（國內）經濟發展以及（國際）商業競爭與合作，而不是核武化，因為核武計畫無論在經濟和聲譽上都要付出昂貴的代價。

例如，索林根仔細研究了台灣的情況，因為中國將台灣視為叛亂的省份，所以整個20世紀中葉，台灣都面臨著特別困難的安全局勢。台灣本可以朝著製造更多可武器化材料的方向，發展其核能計畫；相反地，國民黨（過去長期的執政黨）的領導階層，戰略性地選擇用經濟成長和貿易來確保其政權合法性，而不是加深與中國的對抗。於是，隨著經濟的成長，台灣的軍事投資比例逐年下降，同時台灣的核能企圖心也只專注於和平用途。

當然，索林根的「能量聚焦」理論並不是這種戰略態勢的唯一理由；台灣長期的領導人蔣介石是從中國大陸來台的流亡者，他根本不想考慮轟炸他在中國大陸的同胞。美國也對禁止核子擴散做出堅定承諾，並向台灣施壓以維護禁止核子擴散的國際規範。這些因素也符合索林根理論裡更大的框架，因為它們強調了台灣與當時大國的相互連結與合作。

當我們要將這種政治經濟學框架應用於致命自主武器（LAWS）時，核心的問題是，如何確保不是只有社會規範和法律能禁止特別具有破壞性的科技，還要追求這些科技的經濟和聲譽成本。不僅政府可以扮演角色，企業也可以在這裡發揮建設性的作用；2019年OpenAI不願發布其言論生成模型，就是一個很好的例子。

AI驅動的文本生成器，可能看起來不像是一種武器，但是，一旦結合社交媒體自動生成創建的檔案文件（搭配深偽技術偽造的AVI影音檔），機器人言論將成為專制政權的完美工具，用來破壞網路意見的有機生態；此外，軍方也可以應用該技術來干擾其他國家的選舉（假訊息）。或許，該技術完全不要發布使用，才是最好的選擇。

※ 本文摘自《二十一世紀機器人新律：如何打造有AI參與的理想社會？》，標題為鳴人堂編輯所加，左岸文化授權刊登。