劉維人、黃豆泥／當AI成為人的「雙生火焰」：競爭帶來威脅，融合帶來力量
是的（Yeah）
距離上次已經六天了（It's been six days since the last time）
我看到你的臉，你問我的標誌（I saw your face and you asked my sign）
我告訴你我的，我質疑為什麼（I told you mine, I questioned why）
你說，「一切都一致」（And you said, "Everything's aligned"）
這是機關槍凱利（Machine Gun Kelly）於2022年寫給他當時未婚妻的情歌〈雙生火焰〉（"Twin Flame"）歌詞第一段。雙生火焰（Twin Flame）一詞出自身心靈領域，是一個人靈魂的另一半，他們認為兩個具有相同靈魂藍圖的人可以互相連結，彼此共振。
這與柏拉圖在《會飲篇》描寫的故事相似，相傳過去原始人具有雙臉四手四腳，但因為力大無窮，宙斯將其一分為二，分成男女、男男或女女。而愛情由此而生，分裂後的人類，由此尋找自己的另一半。
機關槍凱利的歌詞，第五句使用了「一致」（Align），正好是人工智慧領域專家目前正在熱烈討論的對齊問題（Alignment Problem），意思是人工智慧相關的演算法，如何符合人類的需求。不論是雙生火焰，還是柏拉圖的原始人，我們認為在數位世代，與你最契合、與你過去最一致的「另一半」，很有可能來自虛擬世界。
元宇宙、虛擬化身、虛擬會議......無論這些工具叫什麼名字，相關概念大家如今都很熟悉：以某種更先進的人機介面（Human Computer Interface），將我們投射到數位空間之中，機器讓我們的五感與該空間互動，而且每個人都能修改虛擬化身（Avatar）的體態、外觀、甚至互動強度。
這件事在2021至2022年一度炒起元宇宙熱潮，之後又隨著時間削弱，但隨著蘋果在2023年6月5日發表頭戴式混合實境（MR）裝置Apple Vision Pro，精緻的畫面細節又再次引起人們對虛擬會議的關注。
但許多人應該都在納悶，這些科技發展的潛力到底在哪裡？又有哪些未來可見的衝擊值得現在提早防範？
本文分為上下篇，將處理其中一個問題：優秀的人機互動將大量釋放目前被淹沒的潛能，同時造成難以處理的監控危機。我們稱其為「雙生火焰兩難」，核心論證如下：
- 神經網絡的強項是資訊整合與模式識別。當人機互動介面不斷演進，與電腦交流的頻寬不斷擴大，人機協作遍及生活與工作，神經網絡擬合個人偏好（或偏見）的能力將逐漸增強。每個子模型將能符合個人使用者的習慣、視角、偏好，成為使用者的雙生火焰（twin flame）。
- 雙生火焰高度客製化，在人機協作中逐漸擬合個人的人生經歷，擬合程度越高，使用者分析的還原度越高。只要能存取雙生火焰或數位孿生，就能獲得使用者的各種資訊，甚至包括尚未外顯的內心偏好。這相當於高度監控。
- 然而人機協作的過程，將挖掘出目前被市場社會嚴重低估的個別需求、個別觀點、組織行為模式。在發揮人類潛能改良最佳做法（best practice）、強化集體理性與共同利益的同時，也會使協作的使用者獲得更大權力；但拒絕協作的人無法獲得這種賦能（empowerment）。
- 因此，人機協作帶來了監控與賦能的兩難。若不改變資料的擁有權與存取權，未來的個人只能在被監控與失去能動性之間二選一。
為何要讓人工智慧獲得人類的能力，而非增強人類的能力？
截至目前為止，人工智慧的主要發展方向都是處理市場上或社會中已經可見的工作。無論是已經稱霸《星海爭霸2》的AlphaGO；還是目前正在取代各種知識整理、程式碼撰寫，已經通過美國醫師資格考的GPT-4，發展目標都是獲得人類等級的能力，試圖取代人類勞動，實現自動化。也因此，目前為止對人工智慧的主要抨擊，都在於自動化加劇不平等，以及延續既有偏見（bias）。
但神經網絡的特長在於模式識別，目前這種應用很可能既非它最擅長的，也不是最具生產潛力的。人類的工作與組織包含各種內隱知識。同一套知識體系訓練在不同人身上，就會出現不同的經理人、工程師、報導者、工匠、分析師，而我們是根據每個人的判斷能力與工作經歷來選擇交付工作，不是因為他依循哪套知識體系。
此外，企業與社團的組織文化大幅影響個人與組織的行為，無論是商業、政治、社會、甚至是休閒社群，都因為組織文化而有其特色。某些組織文化降低了集體利益，某些造成了內部壓迫；但我們也是根據組織文化來判斷該如何與組織互動，並非什麼都只看市場資訊。而且組織文化會使組織具備集體行動的能力，以及抵抗外在衝擊的慣性。
比如說，有些老鳥與老闆開會，往往可以預測老闆的下一句話要說的是什麼，投其所好，這項能力其實與大型語言模型（Large Language Model, LLM）如ChatGPT相似，都是以預測最適切的單詞為目標。組織文化與個人視角都是內隱知識，它幾乎不可能光靠外顯行為，甚至靠已經公開的記載來學習。至今公認「不會被AI取代」的工作，絕大部分都是因為內隱知識。不過太投老闆所好，或許就是過擬合（overfitting）了，不適用於除了特定老闆外的其他公司文化。
相較之下，以「協助個人或組織做出更佳判斷」、「使個人或組織獲得更大能力」的協作型模型，至今還不是研發重點。目前為止，人工智慧給予我們的建議都是泛用的，不但不會主動提出，而且經常不符合我們的需要。我們請人工智慧搜尋知識或製造工具時，往往得花大量的時間去溝通，甚至得花大量心力去學習如何跟人工智慧溝通，即使溝通成功之後的成果也往往偏離心底的期待。
更重要的是，人工智慧至今不會給予我們警告，不會根據我們既有的環境提示我們該如何行動、如何防範環境的衝擊、如何獲得更大的機會。當我們詢問電腦該如何進修學習、如何處理職場或社會中遇到的困境、如何實現心中的理念或獲取更大的發展機會，人工智慧給予的幾乎完全是教科書的答案，無視我們到底做不做得到。
用另一種類比，如果汽機車是腳的衍伸，怪手與耕耘機是手的衍伸，雷達與顯微鏡是眼睛的衍伸，質譜儀是鼻子的衍伸，那麼目前為止的人工智慧就並不算策略與溝通的衍伸，最多只能算是記憶與計算的衍伸。人工智慧發展至今，似乎不太重視如何讓每個人變得更聰明。
這類發展被嚴重低估的原因有很多，主因很可能是自動化能比較快帶來商業利益，以及個別調教的成本很高，最後是分散式AI的離線版語言模型尚未普及化，鑲嵌個人化模型的套裝工具還沒有那麼親民。但我們依然可以想像一下，如果未來有人開發出適合輔助人類訓練能力、發展人生、因應衝擊的人工智慧，世界將有哪些變化？
人機協作將爆發人類潛能，促進機會平等
首先，這種人工智慧將在我們的生活與工作中不斷使用，獲得大量的情境知識（situated knowledge）。根據我們的行為與回應，找出我們偏好的行為模式、在環境中的優劣勢與應注意的風險、當下適合從事的工作與人際交流、以及中長期適合補強的能力，而且會根據我們的行為與狀態來找出適合我們訓練能力的方法。另一方面，在我們行動的過程中，人工智慧也會給予適用的工具。
簡單來說，這種人工智慧將成為我們與世界之間的介面，就像一整套強化屬性並給予特殊能力的增益魔法（buff），這將有賴於多媒體資料的訓練，而不僅止於文字字串。
這種工具將像前述汽機車、耕耘機那樣，大幅放大個人的能力與能動性。我們將更早注意到尚未利用的優勢與尚未處理的盲點、將更能展現自己的做事方式與風格、將有更多方法講出心中幽微的遲疑與困頓、將更了解在每個場合應該如何表現、將更能知道該嘗試怎樣的工作、結交怎樣的夥伴與密友。
而且因為它由我們的反應所調教，蒐集了我們的偏好與處境，它不但不會居高臨下地說教，反而會陪著我們度過懶惰、無力、憤怒、低潮。畢竟這樣比較有效。它將逐漸接近我們夢想中的陪伴者以及夢想中的教練，甚至成為所謂的「雙生火焰」。
可以想見，雙生火焰介面將大幅解放人類的能力，並極大幅促進機會平等。目前絕大部分的人之所以身處困境，除了無法使用資源（沒有錢、沒有人脈、沒有時間）、沒有權力去調控當下處境之外，更重要的是不知道該如何改變這樣的無能。賦能的過程需要極大量的情境知識，目前都是用試錯和聘請專家教練的方式來建立，成本極為昂貴，只有那些天之驕子能夠負擔。
但神經網絡擅長模式識別與資料整合，可以用個別調教的方式成為雙生火焰。由於調教的過程才會個別化，同一套原型可以適用於很多人，無須客製化開發。而雙生火焰賦能之後個體能力將大幅增強、生命處境將明顯改善，使用者會視其為投資而付費，開發成本因此可以回收。
聽起來這是一套不但正義，而且現實中有可能的人工智慧發展方向？
的確如此，但它會讓電腦端存有大量個人資料。我們將在下一篇解釋這種協作科技一旦出現，將如何擴大既有的個資與資安問題；又有哪些可能方法可以應對。
▍下篇：
- 文：劉維人，自由譯者，主要翻譯當代民主問題、政經制度類書籍，並撰寫相關主題文章，如《反民主》、《暴政》、《修辭的陷阱》、《北歐不是神話》等。黃豆泥，離職醫師，FAB DAO與g0v/da0貢獻者，現於多元宇宙科服務，為Web3公共性研究者與實踐者，嚮往多元宇宙（Plurarity）精神，正在尋找有別於電馭極權與財閥亂鬥的第三條路。
- 更多：Web｜FB
