李筱雯／假新聞全新進化：挑戰民主的「深度偽造」科技

思想坦克 31 May, 2019

四月上旬，前英國足球金童大衛貝克漢，在一支宣導對抗瘧疾的影片中（Malaria No More），以科技合成的深度偽造（Deepfake）聲音，說出九種語言。深度偽造科技目前仍是處於備受爭議的階段，貝克漢的這支宣傳片卻是將被視為「惡」的深度偽造，拿來做「善」的公共利益的宣傳。

在55秒的宣傳影片中，以影像合成技術讓貝克漢可以說九種語言，並結合其他人的聲音，從英國到中國，到奈及利亞，其中包括瘧疾的倖存者，以及醫護人員。

片中的訴求是瘧疾必須消失，數百萬人才能活命（Malaria must die, so millions can live），並呼籲大家參與今年十月舉行的全球基金再補足會議（Global Fund Replenishment Conference）。貝克漢在幕後花絮中表示，「讓科技可以結合到我們的生活與我們的世界中，我能夠成為代表許多不同人的一個聲音，是一件非常棒的事！」貝克漢是英國對抗瘧疾組織的創始會員，也是聯合國兒童基金會的親善大使。

但是這支公益宣導短片卻也引起許多人的疑慮，電腦軟體可以製造深度偽造的影片，恐怕會被用在政治人物的影片，或為了欺騙新聞讀者而偽造的影像。被視為製造假新聞、惡搞與惡作劇的深度偽造（Deepfake, Deep Learning and Fake），是運用人工智能（Artificial Intellectual）與機器學習（Machine Learning）的人體圖像合成技術，將圖像與影片重複堆疊，加到目標圖像與影片上，造成似假還真的效果。

網路上有愈來愈多的色情合成圖像與影片，惡搞名人明星或公眾人物的性愛影片，例如，某個好萊塢明星的臉，會出現成人色情電影中，或者某人為了報復前任，將前任男朋友或女朋友的臉，植入色情影片，然後在社群網站大肆分享。由於這項技術不是太難，而且電腦程式的原始碼隨手可得，使得深度偽造四處流竄，因此，Pornhub, Reddit與 Twitter網站已經明文禁止發佈深度偽造作品。

▲「瘧疾必須消失」團隊用深度偽造技術，使貝克漢的嘴型可以完全對應九種不同國家不同配音說出的語言。

深度偽造：善與惡的互搏

英國國會數位、文化、媒體與體育委員會主席戴米恩・柯林斯提出警告，深度偽造科技是對民主最嚴重的威脅，也是最大的挑戰之一，並呼籲臉書必須負起責任對付假新聞，因為線上的假訊息愈來愈複雜，已經造成民主危機。

美國參議員馬可・魯比歐（Marco Rubio）也說，深度偽造的影片已經成為一種宣傳武器，例如，從未參與宣傳的公眾人物，會被置入影片中造成假訊息，或者從未說過的話，也被塞進嘴裡，如果這是在選舉投票前兩天發生，就很容易導致混淆與混亂。

連中國政府在四月中旬也提出草案，準備立法對付深度偽造，理由是它會侵犯個人的肖像權，傷害國家安全以及公共利益，因為仿真科技製造出來的影片圖案與聲音，已經讓人真假難辨，以假亂真了。

不過，於此同時，中國又被視為是最善於製造假訊息，假影像技術的領先者，例如，中國發展的生成對抗網絡（Generative Adversarial Networks, GANs）可以欺騙電腦，置入不存在的地標在地貌或衛星影像上，偽造景觀與圖片，即便作惡也在所不惜。

Synthesia是美國的億萬富翁馬克・庫班（Mark Cuban）投資研發的，在去年引起極大矚目的這項科技，儘管有政治人物警告，Synthesia將嚴重破壞民主，但是英國政府機構Innovate UK仍舊花納稅人的錢，投資七萬英鎊在一間英國的研發公司上，該公司的目標在建立一個低成本，高技術的3D仿真人臉部的模型，尤其著重在講話時，嘴部變化的細節，希望人類演說的合成影像，能達到前所未有的真實感。

而Synthesia的創始人之一Victor Riparbelli則是強調，他們正重新改造影片的生產方式，他深信這種具有生產力的AI科技，將會為我們的生活帶來許多有創意的點子，創造出許多前所未有的經驗，更重要的是，他們非常明白這項科技可能造成的傷害，但他們過去只是發展與運用在媒體與娛樂工業的配音上。

此外，為貝克漢製造這一公益影片的製作團隊（R/GALondon），也釋出了他們如何製作的影片並表示，瘧疾是世界上最古老的疾病，每兩分鐘就有一個小孩因為瘧疾而死亡，人們卻仍舊對此事裝聾作啞，毫不聞問，所以他們決定用一個非常創新的方法做宣傳，結合設計與科技，讓瘧疾這個議題，重新成為大眾的焦點。

製作團隊認為他們只是在創意產業中盡責的專業工作者，盡其所能地讓人們可以坐下來傾聽，才會想出透過聲音的力量來傳達這個訊息。

深度偽造在善與惡之間游移，從完美的配音與娛樂，惡搞模仿，到製造色情以及生產假新聞，該如何因應呢？

▲2018年，好萊塢導演喬登・皮爾（Jordan Peele）就曾使用深度偽造，用歐巴馬的臉說出：「川普就是隻大蠢豬！」在網路掀起熱議。

深度偽造與假新聞

英國國會數位、文化、媒體與體育委員會，今年二月提出一份歷經十八個月的調查報告，〈不正確資訊與假新聞最終報告〉（Disinformation and ‘fake news’： final report），主要調查從國內到國外，人們在政治選舉中的判斷與選擇，如何受到線上訊息以及介入的影響？

結果發現，惡意毀謗的力量確實想要造成混亂與混淆。宣傳並強化政治偏差的新聞，時有所聞並無新鮮，但透過科技傳播的新形式，將這種偏差更加放大，不斷地加強扭曲以及不正確的訊息，這已經不僅僅是假新聞了，而是在消滅基於事實的理性辯論的共同基礎，使得公共辯論變得粗糙，而這種粗魯行徑也被帶入競選過程中，對民主的運作造成莫大威脅。

報告並指出，增加使用不正確資訊（disinformation）一詞，意指在大眾傳播中散佈不正確消息，比起假新聞（fake news ）與錯誤訊息（misinformation），能夠更精準形容這種刻意造假的企圖與做法。

報告中也要求數位領域必須透明化，例如，誰付錢？誰傳遞訊息給我們？科技公司如何運作？我們的個人資料如何被使用？因為社群網路平台上，有數不盡名人照片被惡意使用，散佈仇恨或報復的圖像與言論，影響選舉與民主運作。

英國國會議員戴米恩・柯林斯也在BBC第四廣播頻道《今日》（Today）節目中強調，特別是在選舉過程中，謊言四處飛散，這已經不是公評或評論了，這是在惡意散布假訊息，刻意影響大眾意見，造成人們的仇恨與憤怒。他認為社群媒體像是臉書與其他社群網路平台，必須對平台內散佈的內容負起責任，國會也應該在法規中制定適當的倫理規範（code of ethnics），並設置獨立監管人。

另外，透過立法工具，隱私權、個資保護，以及反壟斷等法案，監督這些科技公司是否遵行。這在法國與德國已有先例，法國法官要求社群媒體將假新聞下架，而德國也要求科技業者必須負責清理平台上的仇恨言論。

深度偽造的技術日新月異，網路除了帶來自由言論與快速溝通能力之外，也帶來製造仇恨與混亂的扭曲與誤導能力。明年初，台灣的總統大選將屆，台灣被列為深受假新聞攻擊最多的國家，大眾媒體散播假情報，不正確訊息也多有所聞。在大選之前，立法與相關機關有無作為，讓我們的心智與社會，是因為科技而得到自由與負責任的民主政治，而不是反被科技綁架，傷害了民主政治。

（原文授權轉載自「思想坦克Voicettank」，原標題：〈位於善／惡交接處的新科技──談深度偽造（deepfake）帶給民主的挑戰〉）