延續著 2022 年人們對於 ChatGPT 的狂熱，請機器人產生文件、讓 AI 幫你生成圖片，成為了越來越多人的日常經驗。但一向走在 AI 科技監管領頭羊地位的歐盟，也開始思考對於這些 AI 工具的管制。

等等，如此方便的科技，為何也需要法律的枷鎖？

## 科技在走，談法律太早嗎？

2022 年起，生成式AI（Generative Artificial Intelligence）從，站在了科技發展的聚光燈下，群眾為之喝采。

人們稱讚著 OpenAI 的聊天機器人 ChatGPT 多麽聰明，能回答各式各樣的問題、甚至某程度取代許多文字工作者，並且驚艷於使用 DALL-E 2 或 Stable Diffusion 等工具所獲得的圖像。

生成式 AI 指的是，它能經由既有的資料訓練後，自行創建和合成資料；也就是說，它有所「生成」，而不只是進行分析判斷。生成式 AI 可使用圖像、聲音、文字或 Code 為基礎，輸出圖、文、甚至藝術作品。而其應用領域持續拓展中，除了能產出一些較為簡易的法律文書、[充當初級的工程師](https://www.weforum.org/agenda/2023/01/davos23-generative-ai-a-game-changer-industries-and-society-code-developers/)，更在教育、醫療、行銷、金融、通信、遊戲等各種領域，有著持續發展的潛力。

例如醫療方面，使用病人的疾病史和其他指標，即可客製化個人的治療方案；金融方面，也能用來[檢測異常和詐欺交易等行為](https://developer.nvidia.com/blog/detecting-financial-fraud-using-gans-at-swedbank-with-hopsworks-and-gpus/)。相關的應用發展可以說是欣欣向榮。

正當那些應用激起了人們的讚嘆與熱情，「要監管」的聲音也不絕於耳，聽起來是多麼令人掃興──法律又要染指、扼殺科技進步了嗎？

但就像所有的科技，水能載舟亦能覆舟，生成式 AI 工具可以在幾秒之內產生人們需要的文本與圖像，省下大量勞力、促進特定產業與公益，使人們生活更加便利，卻也可以快速創造虛假訊息、仇恨性言論，或是產生詐騙用的「深度偽造（Deep Fake）」圖像。

[數據](https://www.weforum.org/agenda/2023/01/davos23-generativeai-technology-artificial-intelligence/)也同樣指出，2022 年世界上的網路攻擊增加了 38%，在生成式 AI 越來越普遍的前提下，可能呈現指數成長。

甚至，誠如各種機器學習所面對的偏見問題，生成式 AI 的應用也不例外。像是大型企業在招聘員工的流程中，運用特定模型已經相當常見，但如瑞士 [Algorithm Watch](https://algorithmwatch.ch/en/ai-in-recruiting/) 的調查報導表示鮮少大公司願意說明他們聘用流程使用的演算法──但他們確實使用了演算法做出某些判斷，那怎麼知道自己的結論，是不是被「有偏見」的模型給過濾掉了呢？

創新需要自由的空間，但常常出了問題，以後才發現無法可管、求助無門；隨著科技進步，法律風險的評估，實為重要任務。

## 生成式 AI 可能產生何種法律爭議？

首先，最直觀也最常見的，是智慧財產權糾紛。舉例而言，著名的 Stable Diffusion 是根據文本產生圖像的生成模型，只要輸入文字就可以產生相應的圖片。

然而在 2023 年 1 月，許多藝術家串連對 Stability Al、DeviantArt 和 Midjourney 提起[訴訟](https://stablediffusionlitigation.com/)，認為 Stable Diffusion 這樣的繪畫 AI 是「21世紀的大型拼貼工具」，侵害了藝術家們的權利。

儘管 Stable Diffusion 被指認為大型拼貼工具的說法馬上就被網友反駁，認為這對科技有所誤解、違反根本的事實，但關於藝術家的同意與授權、或補償機制的爭議，也實在不得不面對。

有人是這樣形容的：生成式 AI 將打開潘朵拉的[訴訟盒子](https://www.lexology.com/library/detail.aspx?g=dd5f2eed-89c7-4398-9fb4-afed62bb6ca5)，如果機制無法面對餵給模型的資料從何而來、模型產出對原始資料持有者之間，將有何連結又會有什麼回饋等問題，這類型的爭議將持續發生。

確實，也已經有人對 OpenAI、Microsoft 和 Github 提起[集體訴訟](https://www.theverge.com/2022/11/8/23446821/microsoft-openai-github-copilot-class-action-lawsuit-ai-copyright-violation-training-data)，認為 Github 的 Code 生成器 Copilot 侵犯了智慧財產權，因為它立基的資料庫，經過了全世界無數人的編寫與調整──儘管這些編寫者認同開源的理念，Copilot 所生成的 Code 卻很可能運用於商業營利，但原作者群卻沒有任何相應的承認或補償機制。

此外，問題也不止步於創作者們。學校裡使用 ChatGPT 生成報告與論文的問題，也讓教育機構感到擔憂，這樣是抄襲嗎？或者違反了什麼學術倫理？

而生成式 AI 輸出內容究竟怎麼樣算「合法使用」？除了智慧財產權的問題，這些輸出內容本身也可能是虛假訊息、深度偽造、詐騙郵件、釣魚式攻擊等。如何杜絕惡意用戶？需要怎樣的規則？這都不是容易的挑戰（註一）。

## 歐盟的監管計畫是什麼？

確實，在初步的盤點下，已經發現生成式 AI 可能帶來的眾多問題。但法律該如何緩解？