劉維人、黃豆泥／「黑暗大陸」的人工智慧紀行，開放科技及其恩人
在漫畫《獵人》（HUNTER X HUNTER）中，有一種稱為嵌合蟻的奇特種族，嵌合蟻后藉由進食其他種族個體，生下混種後代。當蟻后吃下魚類，便能生下有泅水能力的蟻兵；吃下人類，便能生下具有智慧以及溝通能力的蟻兵；吃下具有「念能力」的獵人，便能產生具有破壞性的超群蟻兵。在「蟻王篇」，嵌合蟻對人類國家產生巨大的影響，田園國家及王權國家皆慘遭滅國。最後人類不得不付出極大的代價將其消滅。
嵌合蟻咸信自人類尚未探索的新世界「黑暗大陸」隨機漂流而來，黑暗大陸充滿未知物種，根據目前劇情揭露，目前已知物種皆對人類文明產生重大影響，絕大多數皆有使文明滅絕的可能性，但也有少數為人類帶來飛躍性進展。國際政府組織與獵人協會已禁止一般人前往黑暗大陸。
在「蟻王篇」後，作者冨樫義博終於推出「黑暗大陸篇」，黑暗大陸篇的世界觀很有洛夫克拉夫特（H.P. Lovecraft）的味道：人類以為的安全世界，其實一直被包在無法控制也無法理解的巨大混沌之海中。人類把嵌合蟻這種混沌的微小碎片當成潘朵拉的盒子來畏懼，花費大量時間去辯論應該如何應對，卻不理會其實遠比嵌合蟻強大千萬倍的混沌隨時可能不請自來，而且會隨著人類文明演進。
當人類面對嵌合蟻式的科技體
嵌合蟻與黑暗大陸的混沌，就是凱文．凱利（Kevin Kelly）創造的科技體（Technium）概念。凱利認為科技體為全新的生命體系，如同生物具有自主性，人類為其授粉，科技體根據人類的「資訊」與「需求」快速進化。
人類可以降低科技體的演化速度，卻無法拒絕其誕生，而最近生成式人工智慧（Generative AI）如大型語言模型（Large Language Model, LLM，以大量參數訓練出來的深度機器學習）或合成圖片服務便可能為科技體的元祖，而LLM如同嵌合蟻，人類餵食大量文明給它，它產生智能回應人類，人類是否能與之共存，勢必得做出巨大的適應。
像LLM這樣的新興科技（Emergence Technology）將大幅衝擊目前的政治體制，崩解既有的勞動技能分工，甚至成為集權政府的武器。民主陣營應該如何看待？隨著今年3月在蘋果共同創辦人Steve Wozniak等人發表公開信，呼籲暫緩訓練LLM之後，許多人開始認真討論。
目前這個問題的主流立場，也像《獵人》故事一樣分為兩邊：
- 支持暫停：LLM的衝擊潛力超越了目前所有政治社會機制的因應能耐，人類應該先找出控制發展方向的方法，才能繼續開發，否則相當不負責任。
- 支持繼續：LLM解決問題的潛力遠超過製造問題的潛力，如果暫停開發，技術落後的社會將被拉開差距；應該用針對LLM可能造成的衝擊加以防範，但不應該暫停開發。
本文也支持繼續開發，但與前述說法略有不同，而更接近谷歌前執行長Eric Schmidt：人工智慧與通訊的發展方向，是中美之間在2025年至2030年之間的一場競逐，獲得技術優勢者將掌握這方面的未來。我們的看法更基進，認為這類科技的發展方向難以控制或預期，相關衝擊注定發生，既有制度只能轉型無法抵禦。而民主陣營唯一能做也該做的，是搶先一步讓衝擊在尚未成熟的時候「誘爆」，並在有限範圍中構築屬於文明的圍阻體，藉此爭取時間建立反應機制，並在全民之間產生適應意識。
繼續方：民主陣營應該繼續開發科技體
我們的主要論證如下：
- LLM會大幅衝擊目前民主政治體制與經濟結構。這件事無法阻止，而且非民主陣營（如中國）一定會在衝擊發生時趁虛而入。比如將LLM武器化（Weaponize）投入後真相社會場域，激化對立，延長動盪。
- 然而，LLM衝擊將造成權力洗牌，民主社會爭奪權力的利害關係者遠多於非民主陣營，會投入重新攫取權力空窗的時間總量也因而遠高於於非民主決策者。無論是勞資關係變化、投資市場轉移、民眾識讀能力的迭代，在衝擊發生後都會產生巨大變革。
- 因此，民主陣營在LLM技術進程上越是普及，LLM的使用者越是分散，傷害出現的時間與方式就越不可控。如此一來，傷害爆發之後能夠留給非民主陣營決策者利用的弱點就越少，民主社會能夠修復的韌性越高。
暫停方的論點歷史悠久。畢竟人類最古老的恐懼就如洛夫克拉夫特所說，是對未知的恐懼。自古以來凡是破壞性或殺手級的新科技出現，就會有一些人為了維持社會穩定，而呼籲停止科技開發。這個論證在當代的版本大抵如下：
- 許多科技會改變經濟、政治、社會的互動，其中一些會集中權力，另一些會分散權力。
- 非民主的陣營與企業，總是在尋找科技與制度來集中權力。這些權力一旦被他們攫獲，就難以再分散。
- 民主陣營沒有可靠的手段，預防非民主行動者集中權力。
- 某些科技的出現是可預期的，可以從既有的政治經濟制度中預測。LLM就是這種科技，因為所有人都想要幹練的助手，所有國家都希望藉由自動化提高生產力。
- 因此，只要人類繼續發展科技，注定會出現LLM這類科技，而LLM一旦出現，非民主陣營一定會用來入侵或侵蝕民主陣營。民主長治久安的方式，就是不要貿然發展科技，一旦發現LLM這類科技的新芽，則應該將其封印在潘朵拉的盒子裡，防止秘密洩漏。
這種論證符合不少現實，民主陣營似乎無法阻止科技用於集權用途，就連民主國家的個人與企業都會被科技的力量誘惑，做出集權的應用，例如監控資本主義。
圖靈獎得主Geoffrey Hinton就是這種看法。他認為LLM將使社會無法分辨真實與虛構，並且會大規模摧毀就業，已經成為比氣候變遷更急迫的全球威脅。歷史學家Yuval Noah Harari也認為，當AI可以生成語言，真實的討論就會消失，民主就會結束。
牛津哲學家Nick Bostrom也抱持這種看法。他提出「脆弱世界假說」（Vulnerable World Hypothesis），認為某些科技會大規模傷害文明，這些科技出現的時間點主要是歷史偶然，科技不斷發展總有一天會碰到。只有全球性的監控系統可以要遏止這種科技的傷害，但監控系統本身很可能就是更大的傷害。人類能活到現在只是因為這類科技至今剛好還沒摧毀文明，遲早有一天會摧毀，繼續發展下去很危險。
科技的危險無法預期，但人的危險可以
但我們認為，這種立場宛如卡爾．波普（Karl Popper）所批評的「開放世界的敵人」。他們把新事物與新能力的傷害歸因於事物與能力本身，因其衝擊現狀的潛力而反對。他們將控制看得過於重要，擔心未來的世界無法控制，將不能控制的部分都視為風險。
此外，我們認為這種立場過度著重科技本身，沒有注意到人類如何爭奪權力。傷害究竟來自科技，還是來自於使用科技的方法？如果潘朵拉的新科技會引誘所有人的爭奪，那麼真正的危險應該不是新科技，而是爭奪。
LLM這種新興科技的演變，確實如黑暗大陸一般無法預期。但人的爭奪有跡可循。既然LLM造成的威脅，是讓非民主行動者更方便集中權力，在思考威脅時就不能只處理LLM的性質，而要從更根本的概念開始，思考「社會上出現一個方便集中權力的工具，將造成怎樣的影響」。
我們將在下一篇繼續討論，如果LLM會破壞既有的言論環境與知識地景，民主陣營該如何利用「人類都會爭奪權力」的千古事實，來「誘爆」LLM的衝擊，提早進行轉型。
▍下篇：
- 文：劉維人，自由譯者，主要翻譯當代民主問題、政經制度類書籍，並撰寫相關主題文章，如《反民主》、《暴政》、《修辭的陷阱》、《北歐不是神話》等。黃豆泥，離職醫師，FAB DAO與g0v/da0貢獻者，現於多元宇宙科服務，為Web3公共性研究者與實踐者，嚮往多元宇宙（Plurarity）精神，正在尋找有別於電馭極權與財閥亂鬥的第三條路。
- 更多：Web｜FB
留言