當AI開始失控：看歐盟如何監管人工智慧
當AI晶片席捲全球，引起股民競逐投資與工商應用風潮之時，歐盟各國正在進行辯論，對象即是所謂的《人工智慧法》（AI Act，簡稱《AI法》）。這部法案旨在製定人工智慧監管的全球標準，6月中已獲得歐洲議會多數投票通過，由於歐洲執委會、歐盟理事會都有自己的法案版本，預計三方將在今年內完成協調，推出全球第一部《AI法》。
對AI進行風險控管
以歐洲議會的版本觀之，《AI法》制定的概念源自風險管理。嚴格來說，受到監管的不是AI本身，而是它在社會特定領域的使用方式。依照法律義務約束可分為三類風險，首先是不可接受的風險，再來是高風險，最後是有限和極小風險。若某種AI被定義為對健康、安全有害，或是侵犯基本人權，就是不可接受的風險，當然不能進入歐盟市場。
具體來說，像是社會評分系統、或是通過處理數據來預測未來潛在犯罪者的警務工具、公共場合遠程面部識別和生物特徵識別，以及會對弱勢群體，如兒童、青少年進行潛意識操縱的應用程序，都在禁令之列。不難想見這部嚴格的法律會讓AI大國跳腳，像是中國就以反貿易壁壘為由，將爭議帶到世貿組織，等待歐盟下一步解釋。
高風險包括足以影響人權的人工智慧系統，像是私營企業使用人工智慧招聘、管理、教育員工等，或政府用於公共服務、執法、邊境管制等，又像是可用於影響選舉的應用程式、以及社群媒體平台的推薦系統，這些都將面臨嚴格的監管。跨國公司如Meta已和歐洲的AI業者就高風險相關的應用展開測試，以求符合未來法規。
同時，生成式人工智慧模型在今年出現爆發成長，《AI法》目前將之列為有限風險。這部分強調透明度和問責制，例如生成式人工智慧業者必須讓用戶知道自己是和機器人交流，內容是由人工智慧生成，且用於訓練人工智慧模型的數據摘要也必須公開，立法者認為這些措施有助於用戶區別所謂的深度偽造（deep fake）和真實。
生成式AI如何影響政治？
進一步來看，歐洲議員們早就預想到生成式AI遲早會被用於影響政治，因此必須盡快立法規範。如果單純使用時下流行的ChatGPT聊天，用戶理應知道自己是透過機器人去了解某個候選人或政黨，那麼屬於有限風險的範圍，然而如果政黨利用ChatGPT生成競選文宣，就屬於高風險，應揭露相關資料來源並受法規約束。
依目前的技術，人工智慧足以創造令人難以分辨真偽的影音。例如可用生成式AI偽造某個候選人的聲音，表達實際上未曾發布的種族主義等言論，或是攻擊誹謗其他候選人，也可以合成影音片段，讓選民誤以為是真正的新聞，藉此煽動暴力等。上述所述的有些是已出現過的情景，而生成式AI將讓有心者如虎添翼，深刻傷害民主政治。
今年4月美國總統拜登宣布將競選連任，共和黨全國委員會（RNC）隨即發布一個針對拜登的影音廣告。廣告中出現許多駭人聽聞的影像，包括台灣受到攻擊、美國經濟崩潰，商店紛紛關閉、罪犯和移民引起民眾恐慌，軍隊在街頭巡邏等，這些都是呼應廣告主題： 如果有史以來最孱弱的總統再次當選，會使美國與台灣陷入危機。
此廣告發布後，RNC承認使用人工智慧生成影像，目的在於讓美國人更清楚瞭解拜登連任後的世界。RNC屬於美國合法組織，若欺騙人民會付出龐大代價，但其他有意介入美國選舉的行為者，像是日前雖因普里戈津和普丁內鬥形同解散，但仍有實力，等待收編俄國的巨魔農場（troll farm），就是專為擾亂西方民主而隱密行事，更不會公開承認使用AI。
特別是在美國，競選活動受到憲法第一修正案保護，即便候選人說謊或發布錯誤資訊，絕大多數都不會被法庭起訴，以維護言論自由。加上個人或民間組織依法無據需揭露是否使用生成式AI來製作政治文宣，任何人都可成為創造者，各種超現實的影音圖像恐將在大選年密集轟炸美國，不僅會強化兩極對立，更會使人民失去信任。
人類將成為AI的心靈奴隸？
值得一提的是，歐盟和美國在監管人工智慧方法的差距越來越大，像是歐盟在數據隱私、線上平台或電子商務等方面的法律都有進展，而美國相對欠缺類似的立法。一旦歐盟《AI法》通過，會使情勢變得非常複雜，因為全球多半科技巨頭都來自於美國，這些跨國公司如果要符合歐盟法規需求，可能會出現兩套治理模式，引起內部利益衝突。
這就帶出更多的問題，像是歐盟是否能制定通用於全球的AI風險標準，美國顯然有自己的盤算，中國也有，歐盟如果不能改變它們的行為，只能在歐盟境內拒絕相關產品。更麻煩的是，AI發展似乎有越來越超越人類思維的趨勢，隨著技術日新月異，像是方興未艾的神經網絡，極不可能提出一套與時俱進的標準來測試，法規也將更難適用。
比如說，人類已經發現ChatGPT會偽造網路資料，或是自我幻想（hallucinate）創造出不存在的資訊，然後煞有其事的生成文本讓人類閱讀。有研究指出，人類對於機器有著過度信任的問題，比如AI呈現具有人類知覺的特徵，人類更容易相信，面對AI產出的資訊如果不去查證照單全收，那麼人類將成為AI的心靈奴隸。
就現勢觀之，人工智慧還不到接管世界，或是滅絕人類的地步。但隨著人類依靠AI，逐漸失去判斷決策的能力，同時也會被動接受AI洗腦，因為人工智慧系統是由大數據訓練學習，反映的是人類廣泛固有的偏見，AI可以巧妙地隱藏偏見，讓人類習以為常，當特定對象接受AI提供資訊，AI便會反過來以固有偏見影響公眾觀點。
現在只是AI發展的初期，人類還有能力去制衡，未來的AI恐怕不是人類可完全掌控。說穿了，法律只是人類社會最後一道防線，試圖避免強大的科技被貪婪的人心操控並攪亂秩序，如FB已被證明曾影響2020年的美國大選。但如果僅靠法律而忽略人類的理性與道德，絕對無法有效打擊虛假資訊，在監管之外，也是時候人類該學會避免偏見多多用腦。
