劉維人、黃豆泥／後LLM的權力地景：擁抱暗夜呢喃的時刻已然降臨
▍上篇：
在上一篇文章〈「黑暗大陸」的人工智慧紀行，開放科技及其恩人〉中，我們提到大型語言模型LLM對民主體制的可能傷害。蘋果共同創辦人Steve Wozniak、圖靈獎得主Geoffrey Hinton、歷史學家Yuval Noah Harari等人都認為，LLM可以大幅放大人類的思考、運算、整理能力，註定會被專制國家與跨國企業拿來操縱人民。此外民主體制的基石之一是有意義的真實討論，當機器可以模仿語言，真實討論就會消失。
我們同意LLM會被非民主行動者利用，但也認為他們的立場無法防止非民主行動者入侵。如果為了保護既有制度而死守在安全的小島上，只會把入侵的權力拱手讓給小島周圍的黑暗大海。當LLM已經露出曙光，民主陣營無論是否暫停，無論做出什麼AI倫理規範，專制國家與試圖顛覆民主的企業一定會違反。要守護民主陣營，唯一可能的方法就是比敵人更快。
而且既然LLM的特性就是放大權力，那麼從權力積纂與對抗的角度切入，很可能比從技術的角度切入更為有效。
有趣的是，從權力的角度切入，將得到「LLM不但應該盡快發展，而且應該盡量全民取用」的答案，因為一切有助於集中權力，或者會破壞既有文明體制的新興科技，都會導致權力再分配。例如LLM提供了一種轉換資本的方式，可以將電力（算力）與金錢轉換成言論跟操作技術。這告訴我們，如果人類社會繼續以目前的方式使用言論與操作技術，就會逐漸被有錢有土地有武力的行動者（資本家、專制國家）支配。
然而請務必注意，LLM影響權力的方式，是對資本有利，而非對特定行動者有利。它並沒有讓跨國企業總裁或中俄領導人特別容易知道該怎麼進行轉換。此外，LLM之所以能夠集中權力，正是因為它從資本或金錢轉換為社會政治支配力的過程過於赤裸，每個人都看得懂，甚至都能夠使用。
也就是說，我們之所以無法叫LLM研發土製武器、無法叫LLM從網路偷取個資或金錢，主要是我們手上沒錢沒槍，而不是因為我們比較善良或者我們想不到要做。即使是現在，即使是打從社群網路出現之初，我們就一直正在用臉書、推特、YouTube、Midjourney、ChatGPT集中資源到自己身上。
在這種情況下，有錢有武力的人在試圖獲得更多金錢與武力時，勢必遭受其他人的強烈抵抗，而且必須面對內部的背叛與搶奪，因此具有良知的自律，或AI倫理守則，某些程度上是內部風險控制的賽局考量。權力就是支配他人的能力，以及按照己意形塑世界的能力。當某些工具直接賦予了人們權力，沒有人會笨到用低廉的代價就把手中的工具交換出去，之後讓別人長期對自己為所欲為，讓別人把世界塑造成自己必須卑躬屈膝的樣子。
這就是「金錢與權力會引發覬覦」的核心機制。現代之前的國家、如今的角頭、以及許多現代的政黨、以及許多處於成長期的企業內部，之所以充滿暗鬥、欺騙、背叛、對抗，都是這個原因。既然金錢與權力會引發覬覦，像LLM這種可以集中金錢與權力的工具，只會引發更大的覬覦。
既然傷害注定發生，時間點就不能讓敵人決定
這種工具先出現於民主陣營，其實是好事。民主體制的各種制衡與流動機制，使得行為者的權力分布較為平均，實力大到足以影響世界樣貌的行為者數量，遠比非民主陣營多出許多。這件事過去通常都被批評為民主「缺乏效率」的根本原因，民主體制下要推動改革，必須處理很多反抗聲浪與試圖從中得利的勢力，無法一意孤行。
在民主陣營，赤裸地使用金錢或權力來改變現狀很難，所以自古以來比較有效的非民主方式，都是藉由市場、政治體制漏洞、以及陰謀欺騙。例如社群媒體蒐集網路足跡創造演算法來形塑同溫層、境外勢力代理人利用新媒體與電視節目散播撕裂族群言論、俄國IRA在2016大選滲透美國平權團體來散播不實資訊。這些手法大家都耳熟能詳。
但這些手法有個特性：破壞現狀容易，形塑新局勢困難。本土的行為者比外來者更熟悉環境。原有的體制失效之後，外部勢力若要成功佔領，就必須事先聯合本土協力者，在權力真空、資源無主的時間進駐。機會窗口一旦錯失，資源與權力就會再次被填滿，進入新的平衡甚至新的體制。但外部勢力要聯合本土協力者，勢必得花大量資源提早布局，因而露出蛛絲馬跡。而民主陣營最強大也最不可控制的利器：言論自由與人身安全，將使串謀相當困難。
Hinton、Bostrom這些強者的提醒，讓民主陣營的大眾開始警覺科技帶來的危機。但我們實在很難想像，如果他們所質疑的科技是先出現在非民主國家，或者他們本身就位於非民主國家，我們現在還能不能聽到這樣的警告。
如果第一個證實LLM威力的是集權國家，如果OpenAI一開始是某個跨國企業集團專屬的內部工具，我們很可能根本沒有機會在這裡辯論要不要繼續發展這種科技（或者早就有了只是我們不得而知），因為科技造成的市場變化已經大幅改變了世界局勢，我們只能在大概徒勞無功的大規模抗爭，以及設法自己苟延殘喘之中二選一。
所以我們主張，這種會直接影響權力分配、會大幅加速金錢與武力資本轉換為社會與政治資本的新興科技，民主陣營不僅應該允許發展，而且必須加速發展，並且將其視為公共財盡量吸引人民使用，將行為者的數量盡量擴大。這樣一來，就能使科技可能造成的傷害及早出現、政治體制動盪的跡象盡早顯露、試圖破壞體制的行動者為了彼此搶奪先機，而在不成熟的時機點提早行動。務必相信民主社會的適應力與選擇向量的能力。
這樣的發展路線，才能讓民主陣營的人士搶得先機，使目前的平衡被科技破壞之後，盡快形成新平衡。新平衡越快形成，專制者能夠搜取的剩餘價值就越少。
專制行動者的衝量很大，思考頻寬卻很窄
也許會有人說，我們的主張是惟恐天下不亂。但所謂混亂，是沒有方向性的，混亂之所以會發生，其實是因為既有建制失能。既然這類危險科技本身就會衝擊建制，我們就無法防止混亂出現，唯一能做的只有影響混亂出現的時間地點，使得社會有足夠時間與警醒去因應混亂，演化出新建制。
也許會有人說，在現狀失效的過渡期間，專制國家與企業掌握先機、見縫插針的速度比民主陣營的人民更快。這種發展需要很多先決條件，因為專制的成功控制，來自封閉資訊之後的資訊落差。因此專制體制中了解戰略目的並掌握實行方法的人勢必極為稀少。資訊與思考的頻寬，是專制先天的弱點。只要衝擊發生的速度大幅高於專制陣營布局的速度，民主陣營陷入暫時混亂之後的行為者將極為眾多，環境的複雜程度絕非稀少的專制個體能夠有效掌握。
然而如果混亂太晚發生，專制國家與企業就有足夠時間累積算力與人力，對整體機制有更完善的理解，能夠搶佔整個局勢。
也許會有人說，專制國家與企業的資源集中度很高，一旦掌握大量的電力與金錢，就能用數十以至於數百倍算力的LLM幫助其思考，突破民主陣營長出來的韌性。我們認為這種不對稱自古至今都存在，但民主陣營並未被攻破，畢竟集權擁有的只是加強既有向量的能力，無法突破民主陣營以同時保有多個向量長出來的土地。而且LLM的特性將使這種發展更難發生。
小說家姜峯楠月前於《紐約客》雜誌發表的文章在此很值得一讀，他認為LLM與其說像是神燈精靈，不如說更像是麥肯錫這種高級顧問公司。這種工具引誘資本方或任意使用者卸責，使得實行結果難以從許願目標預測。未來將有更多人以目前百大企業管理層的態度，委託LLM提出解決方案，事與願違時兩手一攤。
照姜峯楠的分析，LLM似乎直接違反專制陣營的權力規劃，無法預測的力量在組織中的角色越大，指揮層就越難掌控整個組織。中俄領導人或跨國企業董事會真的敢用這種工具規劃組織，進攻民主陣營嗎？如果他們真的這麼做了，LLM完成的任務又會符合誰的利益？
也許會有人說，我們的觀念完全放棄了修補既有建制。而我們的回答是，無論是學界還是實務界，都已經同意代議民主式的現代國家，引發了大量政治上的民主赤字（Democratic deficit）；一切仰賴去除管制的市場至上論，則使社會與環境都無法永續。這些問題奠基於既有建制預設的內部規則，是既有建制內部平衡的成立條件，要讓民主與自由繼續存續下去，就必須衝擊並改變這些規則。而要使衝擊的傷害能夠回復，衝擊的預期方式與預期時間點就必須盡量操縱在民主陣營自己手中。
民主陣營應掌握協商傳統，維持技術官僚對於安全的謹慎掌握，但也應打造敏捷彈性的對策反應，LLM等技術應視為同等於潛在大型災害威脅，如同水土保育之於水患天災、公共衛生之於大型傳染病、交易結算之於股市閃崩，主管機關與緊急應變小組應有效轉換。
北大西洋公約組織發行之《塔林網絡戰國際法手冊2.0版》（The Tallinn Manual）已將和平時期的網路事件與非武裝衝突納入網絡戰範疇。台灣具有對抗氣象地震、傳染疾病與戰爭威脅的應變基因，面對新興科技威脅時，需要全民主動產生適應與抵禦意識。在此我們需要更多跨領域案例，類推民用科技的災害預防與應變的實證案例，現代如土製槍械、娛樂性毒品、無線廣播技術等等。
綜上所述，我們認為民主陣營的最大優勢，就是資訊的處理頻寬。民主陣營的權力分散，使得行為者眾多。在涉及金錢、權力、支配工具時，各方行為者彼此牽制滲透的過程，會讓弱點與解法出現的速度，遠遠高於專制國家與企業。
天下武功，唯快不破。像LLM這種將大幅衝擊既有民主體制的新興科技，越是以強大的能力、更早的時間出現在民主陣營，民主陣營就有越大的餘裕找出自己的各種漏洞，從既有的平衡轉型到下一個平衡，而不會被專制所佔領。
畢竟《獵人》的隱喻偷偷告訴我們，資訊封閉的Neo Green Life自治國與集權的東果陀共和國成為嵌合蟻橫行的溫床，反而言論自由與人身安全的國度成功處理了災難，或許正預示著民主陣營具有更加彈性的潛勢，能夠因應新興科技的破壞式創新。
- 文：劉維人，自由譯者，主要翻譯當代民主問題、政經制度類書籍，並撰寫相關主題文章，如《反民主》、《暴政》、《修辭的陷阱》、《北歐不是神話》等。黃豆泥，離職醫師，FAB DAO與g0v/da0貢獻者，現於多元宇宙科服務，為Web3公共性研究者與實踐者，嚮往多元宇宙（Plurarity）精神，正在尋找有別於電馭極權與財閥亂鬥的第三條路。
- 更多：Web｜FB
