生成式 AI 的法律迷霧：ChatGPT 好方便，但相關風險你知道嗎？｜智財科技

延續著 2022 年人們對於 ChatGPT 的狂熱，請機器人產生文件、讓 AI 幫你生成圖片，成為了越來越多人的日常經驗。但一向走在 AI 科技監管領頭羊地位的歐盟，也開始思考對於這些 AI 工具的管制。

等等，如此方便的科技，為何也需要法律的枷鎖？

科技在走，談法律太早嗎？

2022 年起，生成式AI（Generative Artificial Intelligence）從，站在了科技發展的聚光燈下，群眾為之喝采。

人們稱讚著 OpenAI 的聊天機器人 ChatGPT 多麽聰明，能回答各式各樣的問題、甚至某程度取代許多文字工作者，並且驚艷於使用 DALL-E 2 或 Stable Diffusion 等工具所獲得的圖像。

生成式 AI 指的是，它能經由既有的資料訓練後，自行創建和合成資料；也就是說，它有所「生成」，而不只是進行分析判斷。生成式 AI 可使用圖像、聲音、文字或 Code 為基礎，輸出圖、文、甚至藝術作品。而其應用領域持續拓展中，除了能產出一些較為簡易的法律文書、充當初級的工程師，更在教育、醫療、行銷、金融、通信、遊戲等各種領域，有著持續發展的潛力。

例如醫療方面，使用病人的疾病史和其他指標，即可客製化個人的治療方案；金融方面，也能用來檢測異常和詐欺交易等行為。相關的應用發展可以說是欣欣向榮。

正當那些應用激起了人們的讚嘆與熱情，「要監管」的聲音也不絕於耳，聽起來是多麼令人掃興──法律又要染指、扼殺科技進步了嗎？

但就像所有的科技，水能載舟亦能覆舟，生成式 AI 工具可以在幾秒之內產生人們需要的文本與圖像，省下大量勞力、促進特定產業與公益，使人們生活更加便利，卻也可以快速創造虛假訊息、仇恨性言論，或是產生詐騙用的「深度偽造（Deep Fake）」圖像。

數據也同樣指出，2022 年世界上的網路攻擊增加了 38%，在生成式 AI 越來越普遍的前提下，可能呈現指數成長。

甚至，誠如各種機器學習所面對的偏見問題，生成式 AI 的應用也不例外。像是大型企業在招聘員工的流程中，運用特定模型已經相當常見，但如瑞士 Algorithm Watch 的調查報導表示鮮少大公司願意說明他們聘用流程使用的演算法──但他們確實使用了演算法做出某些判斷，那怎麼知道自己的結論，是不是被「有偏見」的模型給過濾掉了呢？

創新需要自由的空間，但常常出了問題，以後才發現無法可管、求助無門；隨著科技進步，法律風險的評估，實為重要任務。

生成式 AI 可能產生何種法律爭議？

首先，最直觀也最常見的，是智慧財產權糾紛。舉例而言，著名的 Stable Diffusion 是根據文本產生圖像的生成模型，只要輸入文字就可以產生相應的圖片。

然而在 2023 年 1 月，許多藝術家串連對 Stability Al、DeviantArt 和 Midjourney 提起訴訟，認為 Stable Diffusion 這樣的繪畫 AI 是「21世紀的大型拼貼工具」，侵害了藝術家們的權利。

儘管 Stable Diffusion 被指認為大型拼貼工具的說法馬上就被網友反駁，認為這對科技有所誤解、違反根本的事實，但關於藝術家的同意與授權、或補償機制的爭議，也實在不得不面對。

有人是這樣形容的：生成式 AI 將打開潘朵拉的訴訟盒子，如果機制無法面對餵給模型的資料從何而來、模型產出對原始資料持有者之間，將有何連結又會有什麼回饋等問題，這類型的爭議將持續發生。

確實，也已經有人對 OpenAI、Microsoft 和 Github 提起集體訴訟，認為 Github 的 Code 生成器 Copilot 侵犯了智慧財產權，因為它立基的資料庫，經過了全世界無數人的編寫與調整──儘管這些編寫者認同開源的理念，Copilot 所生成的 Code 卻很可能運用於商業營利，但原作者群卻沒有任何相應的承認或補償機制。

此外，問題也不止步於創作者們。學校裡使用 ChatGPT 生成報告與論文的問題，也讓教育機構感到擔憂，這樣是抄襲嗎？或者違反了什麼學術倫理？

而生成式 AI 輸出內容究竟怎麼樣算「合法使用」？除了智慧財產權的問題，這些輸出內容本身也可能是虛假訊息、深度偽造、詐騙郵件、釣魚式攻擊等。如何杜絕惡意用戶？需要怎樣的規則？這都不是容易的挑戰（註一）。

歐盟的監管計畫是什麼？

確實，在初步的盤點下，已經發現生成式 AI 可能帶來的眾多問題。但法律該如何緩解？

誠如大家所知，歐盟在立法監管科技方面，一直走在非常前端（例如涉及個人資料保護的 GDPR），近年也不斷推出與 AI 與數位科技相關的法律草案，如《歐盟人工智慧法》便預計要在 2023 年上路。

這部法律對全世界的 AI 監管將有重要影響，而其中也計劃對生成式 AI 加以規範。歐盟稱呼生成式 AI 為「通用目的 AI（general-purpose AI）」，因為它們可以被用以生成各式內容。

歐盟預計監管的重點放在「透明」。AI 公司對於他們使用的模型通常保密到家，但《歐盟人工智慧法》將要求公司們，對於這些模型多加說明。如果公司想在歐盟銷售或使用 AI 產品，但不遵守這些透明化的義務，可能就會面臨最高全球總營業額 6% 的罰款。

儘管法案尚未定案，關於具體監管的方式、甚至監管的公司範圍也都還在激烈爭辯中（註二），但這種監管機構對於透明度以及可問責性的追求，被認為可以引領我們進入一個新的時代、一個科技更加負責而尊重個人權利的時代。

狂歡與警覺之間，仍沒有答案

在搜尋引擎隨意輸入有關「生成式 AI」的關鍵字，可以發現人們對此狂熱正在「穩定擴散」，範圍擴及各種產業；但也有警鐘響起，因為相關科技已經被應用於網路詐騙、散播偽造照片等惡意行為。

然而，可以對應的法律救濟管道或是監管制度，仍然在一片迷霧之中，尚待走出一片天。可以肯定的是，如何調和科技的持續進步，為人們帶來更好的生活，並同時防範隨之而來的風險，是享受便利之虞，需要持續思考的問題——或許這是一個詢問 ChatGPT 也會得到的答案。

那麼，讀者們又怎麼能肯定，這篇文章不是由生成式 AI 所撰寫的呢？

【本文作者】

陳冠瑋

德國慕尼黑大學法律系博士生，台大法律系學碩士。曾任日本東京大學特別研究員。

【本文核稿】

網站主編，王鼎棫

註一：另一個爭議是關於生成式 AI 可能產生的「取代」問題。以法律工作而言，如果詢問 ChatGPT 是否可以進行法律諮詢工作，他目前會回答，機器人的主要功能在於協助、簡化特定任務，但難以取代律師的工作。儘管如此，哪些權限需要由人類完成，哪些可以交給機器？責任如何分配？而客戶面對自身法律風險時，能對 AI 律師有多少「信任」而將賭注交由機器，也是需要考慮的重點。深入討論，請參法白文章《聊天機器人ChatGPT 可以取代律師嗎？》。

註二：就有報導指出，人們對於歐盟即將制定的《歐盟人工智慧法（EU Artificial Intelligence Act）可能扼殺產業新創與歐盟市場的競爭力越來越感到悲觀。