本系列專題「Deepfake 專題──別再拿走我的臉！」，由泛科學和法律白話文合作策畫。從Deepfake 技術與辨偽技術、到法律如何因應。科技在走，社會和法律該如何跟上、甚至超前部署呢？一起來全方位解析 Deepfake 吧（全系列共七篇）！
作者 : 雷雅淇 / y編。PanSci 總編輯。之前是主編，代號是(y.)，是會在每年4、7、10、1月密切追新番的那種宅。中興生技學程畢業，台師大科教所沒畢業，對科學花心的這個也喜歡那個也愛，彷徨地不知道該追誰，索性決定要不見笑的通吃，因此正在科學傳播裡打怪練功衝裝備。
2021 年 5 月，鏡週刊的深度報導《臉被偷走之後——無法可管的數位性暴力？台灣 Deepfake 事件獨家調查》中，揭露了早在 2020 年就已經存在、利用 Deepfake 深度造假技術製作收費色情影片的 Telegram 群組，並訪問了數位影片中的受害女性。
2021 年 10 月，臺灣警方透過 Twitter 上的換臉色情影片追蹤到了該群組，逮捕了相關涉案人，「被換臉」的人除了名人之外，也包含一般人的換臉影片。此案在臺灣掀起了翻天覆地的討論，內容圍繞在 Deepfake 技術的濫用、和數位性暴力等相關議題。
到底 Deepfake 色情內容有多氾濫？而它又造成了什麼樣的傷害呢？
大部分的 Deepfake 影片都是色情內容
「Deepfake」指的是利用人工智慧深度學習技術，在某人沒有說過、拍過和錄過某些內容的狀況下，生成他的聲音、圖像或影片。（延伸閱讀：Deepfake 不一定是問題，不知道才是大問題！關於 Deepfake，你需要知道的是⋯⋯？）
早在 2016 年，來自斯坦福大學、馬克斯普朗克研究所和埃爾蘭根－紐倫堡大學的研究人員，就已經創建了一個名為 Face2Face 的系統，透過捕捉演員的面部表情，在其他人臉上生成一樣表情的影像。不過，我們現在熟悉的「Deepfake」一詞，卻是 2017 年才現身；而且它最早的姿態，便是色情內容：由一位名為「deepfake」的 Reddit 的用戶，上傳的明星假性愛影片。
直到現在，網路上雖然不乏一些迷因、或是跟政治人物相關的 Deepfake 影片到處散播，而且數量越來越多，但 Deepfake 應用最多的，仍是色情內容。人工智慧公司 Sensity AI 的統計發現，自 2018 年以來，網路上的虛假影片每六個月成長一倍，截自 2020 年 12 月為止，他們透過自己的檢測技術，偵測到至少85047 個假影片在網路上流傳。
2019 年，Sensity AI（在當初的名稱為 Deeptrace）的報告統計，有 96%的 Deepfake 影片是色情內容，在色情網站上的內容幾乎百分之百都是以女性為主，被觀看次數超過 1.34 億次。由此可見，「色情內容」無疑是所有 Deepfake 應用中，內容最多、製造速度最快、傳播最廣的類型。
此外，儘管色情網站龍頭 Pornhub 指出，他們不會容許包含 Deepfake 影片在內的任何非自願性質的內容出現，但根據 Deeptrace 的統計，2019 年排名前十的色情網站中，有 8 個網站裡有 Deepfake 的內容，另外還有 9 個 only for Deepfake 的色情網站，而這些網站裡的內容，佔了 Deepfake 色情內容的九成以上。
雖然，這些影片中被換臉的主角通常是名人，但受到Deepfake 色情內容所苦的，不只有他們。
雖然內容是假的，但傷害是真的
2019 年 6 月 23 日，有一個叫做 DeepNude 的網站上線了：它提供可以免費下載的應用程式，並利用生成對抗網路（Generative Adversarial Network，簡稱GAN）技術，將女性有穿衣服的照片生成為裸照。雖然由它生成的照片都有浮水印，但只要付費就能把浮水印變小；重點是，它的使用方法很傻瓜，只需要一張女性的照片就行了，而且「穿越少」效果「越好」。
這個應用程式因為 Motherboard 的報導而爆紅，甚至一度因為下載量過大，導致網站不堪負荷。諷刺的是，Motherboard 報導的目的，原本是為了要批評 DeepNude 對於女性的傷害。雖然DeepNude 隨後在 6 月 27 日下架（其後又在同年 7 月 19 日以 30000 美元出售給匿名買家）；但其應用程式直到今天，仍在一些開源社群、種子網站等地方被不斷的上傳下載。
2020 年，Sensity AI 發現了另一個與 DeepNude 很相似的 Telegram bot，只要向這隻機器人傳送照片，便能直接生成裸照、且可以透過付費，得到去除浮水印或免等候等服務。根據統計，這當中起碼有十多萬名女性被生成裸照，當中包含未成年人。雖然被報導之後，相關群組一樣已經被官方刪除，但這絕對不會是最後一次，Deepfake 被這樣惡性利用。
雖然 DeepNude 的創辦人表示，他當初設計這個程式的初衷，是被小時候在雜誌上看到的「X 光眼鏡」所啟發（其 logo 也是為此致敬），他有想過這個程式會不會傷害到人，但他也表示能用 DeepNude 做到的事，任何人用 Photoshop 也能做到；如果有任何人懷有惡意想要做壞事，那有沒有 DeepNude 並不會有影響。然而情況卻是，有人因為類似應用被威脅，甚至遭受到復仇式色情（原文：Revenge porn，本用詞為俗稱。目前有倡議