AI 機器出事誰負責？相關法律夠不夠？來看歐盟最新發展！｜智財科技

在科技日新月異的發展下，人工智慧（Artificial intelligence, AI）應用在許多領域。例如：自駕車、無人機、社群軟體的演算法分析、投資股票分析、洗錢防制與輔助金融產業遵循法令的法遵科技（Regulatory Technology, RegTech），甚至還可以輔助法院判決與量刑，更別說近期很夯的 AI 繪圖與 ChatGPT 等。

生活中的大小事，很多都有 AI 的參與，同時也引發許多倫理、法律爭議。

值得注意的是，去年（2022）年 9 月時，歐盟執委會（European Commission）發布了 《AI 責任指令草案》（AI Liability Directive）（註一），探討 AI 系統侵害人們權利時，該如何分配法律責任。

未來草案通過後，台灣的企業若在歐盟經商，將可能受到規範；而台灣本身相關規範是否足夠？似乎也可參考歐盟狀況。以下本文將簡介前述草案，一起來探究 AI 責任的法律世界。

歐盟 AI 責任指令草案簡介

歐盟的 AI 法制，未來主要由三個草案所組成，除了前述的《AI 責任指令草案》，還有《產品責任指令修正草案》（註二），把 AI 系統納入產品責任與消費者保護相關規範中；而更有看頭的，是 2021 年歐盟執委會提出的《人工智慧法草案》（AI Act）（註三）。

此一草案的內容（註四），包含了許多定義性規定，並依照風險等級，對 AI 做不同層級的管制，並設有罰緩等懲罰性規定，可說是具備整體框架性的管制規範。

總覽前述三者，《人工智慧法草案》屬於前端管制 AI 與預防損害的規範，而《AI 責任指令草案》與《產品責任指令修正草案》則同為後端處理 AI 損害賠償的法案（註五）。

進一步來說，《AI 責任指令草案》主要在處理 AI 非因契約所生的民事責任（non-contractual civil liability），主要是處理 AI 侵權的問題，諸如自駕車或無人機撞傷路人時如何求償？AI 技術所帶來的醫療行為，造成病患損傷時如何求償等問題。

而目前指令的草案僅有 9 條規定（註六），第 1 、 2 條為原則性與定義性規範（註七）。較為重要的，是第 3 條的資訊揭露與第 4 條的推定因果關係。

所謂「資訊揭露」，是會員國應確保其國內法院有權力，在必要的範圍內，可以命高風險 AI 系統的供應商或使用者等人，揭露或保全相關 AI 損害賠償案件的證據。

而案件中的被告，若未能遵守揭露或保全證據的要求時，就會被推定違反注意義務（shall presume the defendant’s non-compliance with a relevant duty of care）；不過，草案也規定，前述推定可由被告舉反證推翻。

至於「因果關係的推定」，則指依法在滿足相關要件後，法院應推定被告就 AI 系統所生的過失（fault）與 AI 系統的產出（output）有因果關係，換句話說：

1. 原告應先證明被告的過失，違反歐盟法或會員國國內法所訂的注意義務（或未遵守資訊揭露要求，而推定被告違反注意義務）。
2. 根據案件的情況，可合理認為前述過失已影響（influenced）AI 系統的產出或未能產出。
3. 原告應證明 AI 系統的產出或未能產出，導致損害發生（gave rise to the damage）。

所以前述「因果關係的推定」，其實僅用在「過失（fault）與 AI 系統的產出（output）」之間的觀察，至於 AI 的「產出」（或未能產出）如何導致損害發生，還需原告自行設法證明（註八）──如自駕車或無人機的行駛撞到路人產生何種身體損害？銀行帳戶錯被 AI 凍結，產生了多少財產損害？

AI 責任指令草案的困境

首先，所謂「資訊揭露」，業者應揭露到何種程度？揭露的資訊應包含哪些要素？而揭露資訊後，因 AI 而權利受損的當事人，該如何使用這些資訊在訴訟上？

甚至，AI 的編碼、機器學習（Machine Learning）與演算法等都非常複雜，具有高度的之技術門檻；在欠缺 AI 專家的協助下，當事人似乎也很難自行解讀，並利用未來那些被揭露的資訊。

其次，「推定」因果關係，看似對當事人是種優惠，然而當事人卻要先符合前述《AI 責任指令草案》規定的三要件後，法院才能認定「因果關係」已經產生「推定」──這件事本身，就是不小的舉證負擔。

這在直接造成財產或生命身體健康損害的情況下，舉證或許不算太困難（如自駕車或無人機碰撞造成路人受傷）；然而 AI 在現代生活中的應用面實在太廣了，如以下狀況： AI 投資工具或金融的信用評分錯誤所造成的經濟損失，或被 AI 誤認成金融犯罪用戶，讓帳戶被凍結等情況，要證明 AI 的運作，符合因果關係推定的前提三要件，似乎就更加困難了（註九）。

這樣的困難度，以 AI 誤認金融犯罪風險帳戶（如：詐欺、洗錢等）為例。假設有人近日金流活動較頻繁，在網路買很多東西、還錢給朋友等，有一天卻遭銀行 AI 系統以金融犯罪風險理由通報並凍結所有帳戶一段時間，使他無法動用帳戶資金繳帳單，償還欠款與因此產生的違約金。

被害人此時很困惑，為何這些日常交易行為，會被誤認成金融犯罪風險進而凍結帳戶，便思考會不會是自己有特定前科，或是特定職業的外觀等因素被 AI 搞錯了。

而就算在揭露資訊的前提下，被害人還是要努力從銀行提供的資料，自行想辦法去證明銀行 AI 系統設計不良（如把人類對於特定職業或的偏見複製過來了，參註十），而有過失。對此，銀行也會抗辯： AI 模型只是根據「統計資料運算結果」偵測風險態樣，並不是因為他的特定前科與職業，而抱有特定偏見，所以銀行的 AI 系統並沒有過失。

最後，即便好不容易被害人認定銀行有過失，成功符合前述三要件、推定因果關係，但依照《AI 責任指令草案》規定，銀行仍可以試圖翻轉前述對於因果關係的推定。

在這種情況下，到底是 AI 盡職做該做的事情，發現金流確實符合一定金融犯罪風險，還是 AI 的偏見不慎侵害了被害人的財產權，相關認定似乎將成為未來司法的疑難案件（hard cases），形成認定的灰色地帶。

展望

在瞬息萬變的現代社會，AI 科技也快速發展，歐盟繼 2021 年提出《人工智慧草案》後，去（2022）年9月，又提出《AI 責任指令草案》與《產品責任指令修正草案》。

歐盟似乎在 AI 法制方面，試圖扮演先驅，並想要持續在國際上扮演規範性角色（normative actor）。這許多規範都立意良善，不過仍有許多挑戰要克服。在高度技術門檻的 AI 領域，相關訴訟與法律議題，都需要更多 AI 專家與熟悉本議題的法律專家投入。

而等草案通過、並待會員國把相關歐盟規範，轉換為國內法後，後續爭議案件又會如何運作？國際上各國又將如何借鑒歐盟 AI 法制，或是有何不同做法？都值得後續持續觀察。

至於《AI 責任指令草案》對台灣會有什麼樣的啟發？首先，未來草案通過後，台灣的企業若在歐盟經商，將可能受到規範；其次，台灣目前對於 AI 侵權還是以民法侵權行為相關條文及消費者保護法處理，可以預見未來很可能會有更多的 AI 侵權案件進入法院，傳統的民法與消保法是否足夠？是否需要調整？《AI 責任指令草案》似乎可以成為很好的參考對象。

【本文作者】

劉元序

東吳大學法律學系碩士。

【本文作者】

網站主編，王鼎棫

註腳

註一： Proposal for a DIRECTIVE OF THE EUROPEAN PARLIAMENT AND OF THE COUNCIL on adapting non-contractual civil liability rules to artificial intelligence （AI Liability Directive）.

註二：Proposal for a DIRECTIVE OF THE EUROPEAN PARLIAMENT AND OF THE COUNCIL on liability for defective products.

註三：Proposal for a REGULATION OF THE EUROPEAN PARLIAMENT AND OF THE COUNCIL LAYING DOWN HARMONISED RULES ON ARTIFICIAL INTELLIGENCE （ARTIFICIAL INTELLIGENCE ACT） AND AMENDING CERTAIN UNION LEGISLATIVE ACTS.

註四：值得注意的是，《人工智慧法草案》在 2022 年 12 月初時已通過歐盟理事會（The Council of the European Union）的立法程序，下一階段將進入歐洲議會（European Parliament）的審查，可參Council of the EU Proposes Amendments to Draft AI Act（last visited:22/12/2022）.

註五：歐盟 《AI 責任指令草案》與《產品責任指令修正草案》的比較與詳細說明可參 Hacker, P., 2022. The European AI Liability Directives--Critique of a Half-Hearted Approach and Lessons for the Future. arXiv preprint arXiv:2211.13960.

註六：根據歐盟運作條約 288 條，歐盟法的次級立法有規則（regulation）、指令（directive）、決定（decision）、建議與意見（recommendation and opinion）四種。指令為「就其所要達成的目標，對於指稱的每個會員國，應具有拘束力，但應留待會員國國內主管機關選擇形式與方法」亦即，指令賦予會員國立法上一定的裁量空間，自行選擇如何轉化成國內法。

註七：本指令第 2 條所描述的定義，基本上是適用《人工智慧法草案》的規定，所以後者草案有所修正時，也會有連動的影響到《AI 責任指令草案》，如: AI 系統（AI system）、高風險 AI 系統（high-risk AI system）、供應者（provider）、使用者（user）等都是適用《人工智慧法草案》的定義。

註八：至於 4.2 與 4.3 條則是涉及高風險 AI 的供應商與使用者的情況時，4.4 條則是高風險 AI 適用推定因果關係的例外規定。 4.5 條則規定在非高風險AI的情況下，推定因果關係的規定唯有在因果關係證明過度困難（excessively difficult）時才得以適用。 4.7 條則規定被告有推翻推定因果關係的機會。

註九：SAMAR ABBAS NAWAZ, The Proposed EU AI Liability Rules: Ease or Burden? （last visited:22/12/2022）.

註十：關於 AI 的偏見議題，可參柳欣宇、黃英哲，AI 不中立？─探討 AI 偏見帶來的影響（最後瀏覽日：2023 年 2 月 4 日）。