當AI開始失控:看歐盟如何監管人工智慧 | 徐子軒 | 鳴人堂
親愛的網友:
為確保您享有最佳的瀏覽體驗,建議您提升您的 IE 瀏覽器至最新版本,感謝您的配合。

當AI開始失控:看歐盟如何監管人工智慧

當AI晶片席捲全球,引起股民競逐投資與工商應用風潮之時,歐盟各國正在進行辯論,對象即是所謂的《人工智慧法》(AI Act,簡稱《AI法》)。 圖/美聯社
當AI晶片席捲全球,引起股民競逐投資與工商應用風潮之時,歐盟各國正在進行辯論,對象即是所謂的《人工智慧法》(AI Act,簡稱《AI法》)。 圖/美聯社

AI晶片席捲全球,引起股民競逐投資與工商應用風潮之時,歐盟各國正在進行辯論,對象即是所謂的《人工智慧法》(AI Act,簡稱《AI法》)。這部法案旨在製定人工智慧監管的全球標準,6月中已獲得歐洲議會多數投票通過,由於歐洲執委會、歐盟理事會都有自己的法案版本,預計三方將在今年內完成協調,推出全球第一部《AI法》。

對AI進行風險控管

以歐洲議會的版本觀之,《AI法》制定的概念源自風險管理。嚴格來說,受到監管的不是AI本身,而是它在社會特定領域的使用方式。依照法律義務約束可分為三類風險,首先是不可接受的風險,再來是高風險,最後是有限和極小風險。若某種AI被定義為對健康、安全有害,或是侵犯基本人權,就是不可接受的風險,當然不能進入歐盟市場。

具體來說,像是社會評分系統、或是通過處理數據來預測未來潛在犯罪者的警務工具、公共場合遠程面部識別和生物特徵識別,以及會對弱勢群體,如兒童、青少年進行潛意識操縱的應用程序,都在禁令之列。不難想見這部嚴格的法律會讓AI大國跳腳,像是中國就以反貿易壁壘為由,將爭議帶到世貿組織,等待歐盟下一步解釋。

高風險包括足以影響人權的人工智慧系統,像是私營企業使用人工智慧招聘、管理、教育員工等,或政府用於公共服務、執法、邊境管制等,又像是可用於影響選舉的應用程式、以及社群媒體平台的推薦系統,這些都將面臨嚴格的監管。跨國公司如Meta已和歐洲的AI業者就高風險相關的應用展開測試,以求符合未來法規。

同時,生成式人工智慧模型在今年出現爆發成長,《AI法》目前將之列為有限風險。這部分強調透明度和問責制,例如生成式人工智慧業者必須讓用戶知道自己是和機器人交流,內容是由人工智慧生成,且用於訓練人工智慧模型的數據摘要也必須公開,立法者認為這些措施有助於用戶區別所謂的深度偽造(deep fake)和真實。

《人工智慧法》旨在製定人工智慧監管的全球標準,6月中已獲得歐洲議會多數投票通過,由於歐洲執委會、歐盟理事會都有自己的法案版本,預計三方將在今年內完成協調,推出全球第一部《AI法》。 圖/美聯社
《人工智慧法》旨在製定人工智慧監管的全球標準,6月中已獲得歐洲議會多數投票通過,由於歐洲執委會、歐盟理事會都有自己的法案版本,預計三方將在今年內完成協調,推出全球第一部《AI法》。 圖/美聯社

生成式AI如何影響政治?

進一步來看,歐洲議員們早就預想到生成式AI遲早會被用於影響政治,因此必須盡快立法規範。如果單純使用時下流行的ChatGPT聊天,用戶理應知道自己是透過機器人去了解某個候選人或政黨,那麼屬於有限風險的範圍,然而如果政黨利用ChatGPT生成競選文宣,就屬於高風險,應揭露相關資料來源並受法規約束。

依目前的技術,人工智慧足以創造令人難以分辨真偽的影音。例如可用生成式AI偽造某個候選人的聲音,表達實際上未曾發布的種族主義等言論,或是攻擊誹謗其他候選人,也可以合成影音片段,讓選民誤以為是真正的新聞,藉此煽動暴力等。上述所述的有些是已出現過的情景,而生成式AI將讓有心者如虎添翼,深刻傷害民主政治。

今年4月美國總統拜登宣布將競選連任,共和黨全國委員會(RNC)隨即發布一個針對拜登的影音廣告。廣告中出現許多駭人聽聞的影像,包括台灣受到攻擊、美國經濟崩潰,商店紛紛關閉、罪犯和移民引起民眾恐慌,軍隊在街頭巡邏等,這些都是呼應廣告主題: 如果有史以來最孱弱的總統再次當選,會使美國與台灣陷入危機。

此廣告發布後,RNC承認使用人工智慧生成影像,目的在於讓美國人更清楚瞭解拜登連任後的世界。RNC屬於美國合法組織,若欺騙人民會付出龐大代價,但其他有意介入美國選舉的行為者,像是日前雖因普里戈津和普丁內鬥形同解散,但仍有實力,等待收編俄國的巨魔農場(troll farm),就是專為擾亂西方民主而隱密行事,更不會公開承認使用AI。

特別是在美國,競選活動受到憲法第一修正案保護,即便候選人說謊或發布錯誤資訊,絕大多數都不會被法庭起訴,以維護言論自由。加上個人或民間組織依法無據需揭露是否使用生成式AI來製作政治文宣,任何人都可成為創造者,各種超現實的影音圖像恐將在大選年密集轟炸美國,不僅會強化兩極對立,更會使人民失去信任。

助理總法律顧問羅伯特.諾普(Robert Knop)於2023年8月10日在華盛頓舉行的聯邦選舉委員會公開會議上出現在螢幕上,同時回答有關是否應規範人工智慧生成的政治競選廣告的使用的問題。 圖/美聯社
助理總法律顧問羅伯特.諾普(Robert Knop)於2023年8月10日在華盛頓舉行的聯邦選舉委員會公開會議上出現在螢幕上,同時回答有關是否應規範人工智慧生成的政治競選廣告的使用的問題。 圖/美聯社

人類將成為AI的心靈奴隸

值得一提的是,歐盟和美國在監管人工智慧方法的差距越來越大,像是歐盟在數據隱私、線上平台或電子商務等方面的法律都有進展,而美國相對欠缺類似的立法。一旦歐盟《AI法》通過,會使情勢變得非常複雜,因為全球多半科技巨頭都來自於美國,這些跨國公司如果要符合歐盟法規需求,可能會出現兩套治理模式,引起內部利益衝突。

這就帶出更多的問題,像是歐盟是否能制定通用於全球的AI風險標準,美國顯然有自己的盤算,中國也有,歐盟如果不能改變它們的行為,只能在歐盟境內拒絕相關產品。更麻煩的是,AI發展似乎有越來越超越人類思維的趨勢,隨著技術日新月異,像是方興未艾的神經網絡,極不可能提出一套與時俱進的標準來測試,法規也將更難適用。

比如說,人類已經發現ChatGPT會偽造網路資料,或是自我幻想(hallucinate)創造出不存在的資訊,然後煞有其事的生成文本讓人類閱讀。有研究指出,人類對於機器有著過度信任的問題,比如AI呈現具有人類知覺的特徵,人類更容易相信,面對AI產出的資訊如果不去查證照單全收,那麼人類將成為AI的心靈奴隸

就現勢觀之,人工智慧還不到接管世界,或是滅絕人類的地步。但隨著人類依靠AI,逐漸失去判斷決策的能力,同時也會被動接受AI洗腦,因為人工智慧系統是由大數據訓練學習,反映的是人類廣泛固有的偏見,AI可以巧妙地隱藏偏見,讓人類習以為常,當特定對象接受AI提供資訊,AI便會反過來以固有偏見影響公眾觀點。

現在只是AI發展的初期,人類還有能力去制衡,未來的AI恐怕不是人類可完全掌控。說穿了,法律只是人類社會最後一道防線,試圖避免強大的科技被貪婪的人心操控並攪亂秩序,如FB已被證明曾影響2020年的美國大選。但如果僅靠法律而忽略人類的理性與道德,絕對無法有效打擊虛假資訊,在監管之外,也是時候人類該學會避免偏見多多用腦。

現在只是AI發展的初期,人類還有能力去制衡,未來的AI恐怕不是人類可完全掌控。 圖/美聯社
現在只是AI發展的初期,人類還有能力去制衡,未來的AI恐怕不是人類可完全掌控。 圖/美聯社

留言區
TOP