劉維人、黃豆泥/「黑暗大陸」的人工智慧紀行,開放科技及其恩人

聯合新聞網 沃草烙哲學
圖/沃草烙哲學

在漫畫《獵人》(HUNTER X HUNTER)中,有一種稱為嵌合蟻的奇特種族,嵌合蟻后藉由進食其他種族個體,生下混種後代。當蟻后吃下魚類,便能生下有泅水能力的蟻兵;吃下人類,便能生下具有智慧以及溝通能力的蟻兵;吃下具有「念能力」的獵人,便能產生具有破壞性的超群蟻兵。在「蟻王篇」,嵌合蟻對人類國家產生巨大的影響,田園國家及王權國家皆慘遭滅國。最後人類不得不付出極大的代價將其消滅。

嵌合蟻咸信自人類尚未探索的新世界「黑暗大陸」隨機漂流而來,黑暗大陸充滿未知物種,根據目前劇情揭露,目前已知物種皆對人類文明產生重大影響,絕大多數皆有使文明滅絕的可能性,但也有少數為人類帶來飛躍性進展。國際政府組織與獵人協會已禁止一般人前往黑暗大陸。

在「蟻王篇」後,作者冨樫義博終於推出「黑暗大陸篇」,黑暗大陸篇的世界觀很有洛夫克拉夫特(H.P. Lovecraft)的味道:人類以為的安全世界,其實一直被包在無法控制也無法理解的巨大混沌之海中。人類把嵌合蟻這種混沌的微小碎片當成潘朵拉的盒子來畏懼,花費大量時間去辯論應該如何應對,卻不理會其實遠比嵌合蟻強大千萬倍的混沌隨時可能不請自來,而且會隨著人類文明演進。

當人類面對嵌合蟻式的科技體

嵌合蟻與黑暗大陸的混沌,就是凱文.凱利(Kevin Kelly)創造的科技體(Technium)概念。凱利認為科技體為全新的生命體系,如同生物具有自主性,人類為其授粉,科技體根據人類的「資訊」與「需求」快速進化。

人類可以降低科技體的演化速度,卻無法拒絕其誕生,而最近生成式人工智慧(Generative AI)如大型語言模型(Large Language Model, LLM,以大量參數訓練出來的深度機器學習)或合成圖片服務便可能為科技體的元祖,而LLM如同嵌合蟻,人類餵食大量文明給它,它產生智能回應人類,人類是否能與之共存,勢必得做出巨大的適應。

像LLM這樣的新興科技(Emergence Technology)將大幅衝擊目前的政治體制,崩解既有的勞動技能分工,甚至成為集權政府的武器。民主陣營應該如何看待?隨著今年3月在蘋果共同創辦人Steve Wozniak等人發表公開信,呼籲暫緩訓練LLM之後,許多人開始認真討論。

目前這個問題的主流立場,也像《獵人》故事一樣分為兩邊:

本文也支持繼續開發,但與前述說法略有不同,而更接近谷歌前執行長Eric Schmidt:人工智慧與通訊的發展方向,是中美之間在2025年至2030年之間的一場競逐,獲得技術優勢者將掌握這方面的未來。我們的看法更基進,認為這類科技的發展方向難以控制或預期,相關衝擊注定發生,既有制度只能轉型無法抵禦。而民主陣營唯一能做也該做的,是搶先一步讓衝擊在尚未成熟的時候「誘爆」,並在有限範圍中構築屬於文明的圍阻體,藉此爭取時間建立反應機制,並在全民之間產生適應意識。

繼續方:民主陣營應該繼續開發科技體

我們的主要論證如下:

  1. LLM會大幅衝擊目前民主政治體制與經濟結構。這件事無法阻止,而且非民主陣營(如中國)一定會在衝擊發生時趁虛而入。比如將LLM武器化(Weaponize)投入後真相社會場域,激化對立,延長動盪。
  2. 然而,LLM衝擊將造成權力洗牌,民主社會爭奪權力的利害關係者遠多於非民主陣營,會投入重新攫取權力空窗的時間總量也因而遠高於於非民主決策者。無論是勞資關係變化、投資市場轉移、民眾識讀能力的迭代,在衝擊發生後都會產生巨大變革。
  3. 因此,民主陣營在LLM技術進程上越是普及,LLM的使用者越是分散,傷害出現的時間與方式就越不可控。如此一來,傷害爆發之後能夠留給非民主陣營決策者利用的弱點就越少,民主社會能夠修復的韌性越高。

暫停方:我們住在黑海中央的無知小島,不該冒險遠離家園

暫停方的論點歷史悠久。畢竟人類最古老的恐懼就如洛夫克拉夫特所說,是對未知的恐懼。自古以來凡是破壞性或殺手級的新科技出現,就會有一些人為了維持社會穩定,而呼籲停止科技開發。這個論證在當代的版本大抵如下:

  1. 許多科技會改變經濟、政治、社會的互動,其中一些會集中權力,另一些會分散權力。
  2. 非民主的陣營與企業,總是在尋找科技與制度來集中權力。這些權力一旦被他們攫獲,就難以再分散。
  3. 民主陣營沒有可靠的手段,預防非民主行動者集中權力。
  4. 某些科技的出現是可預期的,可以從既有的政治經濟制度中預測。LLM就是這種科技,因為所有人都想要幹練的助手,所有國家都希望藉由自動化提高生產力。
  5. 因此,只要人類繼續發展科技,注定會出現LLM這類科技,而LLM一旦出現,非民主陣營一定會用來入侵或侵蝕民主陣營。民主長治久安的方式,就是不要貿然發展科技,一旦發現LLM這類科技的新芽,則應該將其封印在潘朵拉的盒子裡,防止秘密洩漏。

這種論證符合不少現實,民主陣營似乎無法阻止科技用於集權用途,就連民主國家的個人與企業都會被科技的力量誘惑,做出集權的應用,例如監控資本主義。

圖靈獎得主Geoffrey Hinton就是這種看法。他認為LLM將使社會無法分辨真實與虛構,並且會大規模摧毀就業,已經成為比氣候變遷更急迫的全球威脅。歷史學家Yuval Noah Harari也認為,當AI可以生成語言,真實的討論就會消失,民主就會結束

牛津哲學家Nick Bostrom也抱持這種看法。他提出「脆弱世界假說」(Vulnerable World Hypothesis),認為某些科技會大規模傷害文明,這些科技出現的時間點主要是歷史偶然,科技不斷發展總有一天會碰到。只有全球性的監控系統可以要遏止這種科技的傷害,但監控系統本身很可能就是更大的傷害。人類能活到現在只是因為這類科技至今剛好還沒摧毀文明,遲早有一天會摧毀,繼續發展下去很危險。

科技的危險無法預期,但人的危險可以

但我們認為,這種立場宛如卡爾.波普(Karl Popper)所批評的「開放世界的敵人」。他們把新事物與新能力的傷害歸因於事物與能力本身,因其衝擊現狀的潛力而反對。他們將控制看得過於重要,擔心未來的世界無法控制,將不能控制的部分都視為風險。

此外,我們認為這種立場過度著重科技本身,沒有注意到人類如何爭奪權力。傷害究竟來自科技,還是來自於使用科技的方法?如果潘朵拉的新科技會引誘所有人的爭奪,那麼真正的危險應該不是新科技,而是爭奪。

LLM這種新興科技的演變,確實如黑暗大陸一般無法預期。但人的爭奪有跡可循。既然LLM造成的威脅,是讓非民主行動者更方便集中權力,在思考威脅時就不能只處理LLM的性質,而要從更根本的概念開始,思考「社會上出現一個方便集中權力的工具,將造成怎樣的影響」。

我們將在下一篇繼續討論,如果LLM會破壞既有的言論環境與知識地景,民主陣營該如何利用「人類都會爭奪權力」的千古事實,來「誘爆」LLM的衝擊,提早進行轉型。

▍下篇:

後LLM的權力地景:擁抱暗夜呢喃的時刻已然降臨


沃草烙哲學

烙哲學是沃草支援的哲學寫作社群,藉由書寫和討論,我們希望讓大家知道:日...

人工智慧 AI 氣候變遷 中國 劉維人 時事觀察 公共政策 沃草烙哲學

推薦文章

留言