AI 機器出事誰負責?相關法律夠不夠?來看歐盟最新發展!|智財科技

劉元序

2023-04-04發佈

2023-04-17更新

AI 機器出事誰負責?相關法律夠不夠?來看歐盟最新發展!|智財科技

 AI 機器出事誰負責?相關法律夠不夠?來看歐盟最新發展!|智財科技
quotationmark image

去年( 2022 )年 9 月時,歐盟執委會(European Commission)發布了 《AI 責任指令草案》(AI Liability Directive)(註一),探討 AI 系統侵害人們權利時,該如何分配法律責任。 未來草案通過後,台灣的企業若在歐盟經商,將可能受到規範;而台灣本身相關規範是否足夠?似乎也可參考歐盟狀況。以下本文將簡介前述草案,一起來探究 AI 責任的法律世界。

quotationmark image

在科技日新月異的發展下,人工智慧(Artificial intelligence, AI)應用在許多領域。例如:自駕車、無人機、社群軟體的演算法分析、投資股票分析、洗錢防制與輔助金融產業遵循法令的法遵科技(Regulatory Technology, RegTech),甚至還可以輔助法院判決與量刑,更別說近期很夯的 AI 繪圖與 ChatGPT 等。

生活中的大小事,很多都有 AI 的參與,同時也引發許多倫理、法律爭議。

值得注意的是,去年(2022)年 9 月時,歐盟執委會(European Commission)發布了 《AI 責任指令草案》(AI Liability Directive)(註一),探討 AI 系統侵害人們權利時,該如何分配法律責任。

未來草案通過後,台灣的企業若在歐盟經商,將可能受到規範;而台灣本身相關規範是否足夠?似乎也可參考歐盟狀況。以下本文將簡介前述草案,一起來探究 AI 責任的法律世界。

歐盟 AI 責任指令草案簡介

歐盟的 AI 法制,未來主要由三個草案所組成,除了前述的《AI 責任指令草案》,還有《產品責任指令修正草案》(註二),把 AI 系統納入產品責任與消費者保護相關規範中;而更有看頭的,是 2021 年歐盟執委會提出的《人工智慧法草案》(AI Act)(註三)。

此一草案的內容(註四),包含了許多定義性規定,並依照風險等級,對 AI 做不同層級的管制,並設有罰緩等懲罰性規定,可說是具備整體框架性的管制規範。

總覽前述三者,《人工智慧法草案》屬於前端管制 AI 與預防損害的規範,而《AI 責任指令草案》與《產品責任指令修正草案》則同為後端處理 AI 損害賠償的法案(註五)。

進一步來說,《AI 責任指令草案》主要在處理 AI 非因契約所生的民事責任(non-contractual civil liability),主要是處理 AI 侵權的問題,諸如自駕車或無人機撞傷路人時如何求償?AI 技術所帶來的醫療行為,造成病患損傷時如何求償等問題。

而目前指令的草案僅有 9 條規定(註六),第 1 、 2 條為原則性與定義性規範(註七)。較為重要的,是第 3 條的資訊揭露與第 4 條的推定因果關係。

所謂「資訊揭露」,是會員國應確保其國內法院有權力,在必要的範圍內,可以命高風險 AI 系統的供應商或使用者等人,揭露或保全相關 AI 損害賠償案件的證據。

而案件中的被告,若未能遵守揭露或保全證據的要求時,就會被推定違反注意義務(shall presume the defendant’s non-compliance with a relevant duty of care);不過,草案也規定,前述推定可由被告舉反證推翻。

至於「因果關係的推定」,則指依法在滿足相關要件後,法院應推定被告就 AI 系統所生的過失(fault)與 AI 系統的產出(output)有因果關係,換句話說:

  1. 原告應先證明被告的過失,違反歐盟法或會員國國內法所訂的注意義務(或未遵守資訊揭露要求,而推定被告違反注意義務)。
  2. 根據案件的情況,可合理認為前述過失已影響(influenced)AI 系統的產出或未能產出。
  3. 原告應證明 AI 系統的產出或未能產出,導致損害發生(gave rise to the damage)。

所以前述「因果關係的推定」,其實僅用在「過失(fault)與 AI 系統的產出(output)」之間的觀察,至於 AI 的「產出」(或未能產出)如何導致損害發生,還需原告自行設法證明(註八)──如自駕車或無人機的行駛撞到路人產生何種身體損害?銀行帳戶錯被 AI 凍結,產生了多少財產損害?

AI 責任指令草案的困境

首先,所謂「資訊揭露」,業者應揭露到何種程度?揭露的資訊應包含哪些要素?而揭露資訊後,因 AI 而權利受損的當事人,該如何使用這些資訊在訴訟上?

甚至,AI 的編碼、機器學習(Machine Learning)與演算法等都非常複雜,具有高度的之技術門檻;在欠缺 AI 專家的協助下,當事人似乎也很難自行解讀,並利用未來那些被揭露的資訊。

其次,「推定」因果關係,看似對當事人是種優惠,然而當事人卻要先符合前述《AI 責任指令草案》規定的三要件後,法院才能認定「因果關係」已經產生「推定」──這件事本身,就是不小的舉證負擔。

這在直接造成財產或生命身體健康損害的情況下,舉證或許不算太困難(如自駕車或無人機碰撞造成路人受傷);然而 AI 在現代生活中的應用面實在太廣了,如以下狀況: AI 投資工具或金融的信用評分錯誤所造成的經濟損失,或被 AI 誤認成金融犯罪用戶,讓帳戶被凍結等情況,要證明 AI 的運作,符合因果關係推定的前提三要件,似乎就更加困難了(註九)。

這樣的困難度,以 AI 誤認金融犯罪風險帳戶(如:詐欺、洗錢等)為例。假設有人近日金流活動較頻繁,在網路買很多東西、還錢給朋友等,有一天卻遭銀行 AI 系統以金融犯罪風險理由通報並凍結所有帳戶一段時間,使他無法動用帳戶資金繳帳單,償還欠款與因此產生的違約金。

被害人此時很困惑,為何這些日常交易行為,會被誤認成金融犯罪風險進而凍結帳戶,便思考會不會是自己有特定前科,或是特定職業的外觀等因素被 AI 搞錯了。

而就算在揭露資訊的前提下,被害人還是要努力從銀行提供的資料,自行想辦法去證明銀行 AI 系統設計不良(如把人類對於特定職業或的偏見複製過來了,參註十),而有過失。對此,銀行也會抗辯: AI 模型只是根據「統計資料運算結果」偵測風險態樣,並不是因為他的特定前科與職業,而抱有特定偏見,所以銀行的 AI 系統並沒有過失。

最後,即便好不容易被害人認定銀行有過失,成功符合前述三要件、推定因果關係,但依照《AI 責任指令草案》規定,銀行仍可以試圖翻轉前述對於因果關係的推定。

在這種情況下,到底是 AI 盡職做該做的事情,發現金流確實符合一定金融犯罪風險,還是 AI 的偏見不慎侵害了被害人的財產權,相關認定似乎將成為未來司法的疑難案件(hard cases),形成認定的灰色地帶。

展望

在瞬息萬變的現代社會,AI 科技也快速發展,歐盟繼 2021 年提出《人工智慧草案》後,去(2022)年9月,又提出《AI 責任指令草案》與《產品責任指令修正草案》。

歐盟似乎在 AI 法制方面,試圖扮演先驅,並想要持續在國際上扮演規範性角色(normative actor)。這許多規範都立意良善,不過仍有許多挑戰要克服。在高度技術門檻的 AI 領域,相關訴訟與法律議題,都需要更多 AI 專家與熟悉本議題的法律專家投入。

而等草案通過、並待會員國把相關歐盟規範,轉換為國內法後,後續爭議案件又會如何運作?國際上各國又將如何借鑒歐盟 AI 法制,或是有何不同做法?都值得後續持續觀察。

至於《AI 責任指令草案》對台灣會有什麼樣的啟發?首先,未來草案通過後,台灣的企業若在歐盟經商,將可能受到規範;其次,台灣目前對於 AI 侵權還是以民法侵權行為相關條文及消費者保護法處理,可以預見未來很可能會有更多的 AI 侵權案件進入法院,傳統的民法與消保法是否足夠?是否需要調整?《AI 責任指令草案》似乎可以成為很好的參考對象。

【本文作者】

劉元序

東吳大學法律學系碩士。

【本文作者】

網站主編,王鼎棫

註腳

註一: Proposal for a DIRECTIVE OF THE EUROPEAN PARLIAMENT AND OF THE COUNCIL on adapting non-contractual civil liability rules to artificial intelligence (AI Liability Directive).

註二:Proposal for a DIRECTIVE OF THE EUROPEAN PARLIAMENT AND OF THE COUNCIL on liability for defective products.

註三:Proposal for a REGULATION OF THE EUROPEAN PARLIAMENT AND OF THE COUNCIL LAYING DOWN HARMONISED RULES ON ARTIFICIAL INTELLIGENCE (ARTIFICIAL INTELLIGENCE ACT) AND AMENDING CERTAIN UNION LEGISLATIVE ACTS.

註四:值得注意的是,《人工智慧法草案》在 2022 年 12 月初時已通過歐盟理事會(The Council of the European Union)的立法程序,下一階段將進入歐洲議會(European Parliament)的審查,可參Council of the EU Proposes Amendments to Draft AI Act(last visited:22/12/2022).

註五:歐盟 《AI 責任指令草案》與《產品責任指令修正草案》的比較與詳細說明可參 Hacker, P., 2022. The European AI Liability Directives--Critique of a Half-Hearted Approach and Lessons for the Future. arXiv preprint arXiv:2211.13960.

註六:根據歐盟運作條約 288 條,歐盟法的次級立法有規則(regulation)、指令(directive)、決定(decision)、建議與意見(recommendation and opinion)四種。指令為「就其所要達成的目標,對於指稱的每個會員國,應具有拘束力,但應留待會員國國內主管機關選擇形式與方法」亦即,指令賦予會員國立法上一定的裁量空間,自行選擇如何轉化成國內法。

註七:本指令第 2 條所描述的定義,基本上是適用《人工智慧法草案》的規定,所以後者草案有所修正時,也會有連動的影響到《AI 責任指令草案》,如: AI 系統(AI system)、高風險 AI 系統(high-risk AI system)、供應者(provider)、使用者(user)等都是適用《人工智慧法草案》的定義。

註八:至於 4.2 與 4.3 條則是涉及高風險 AI 的供應商與使用者的情況時,4.4 條則是高風險 AI 適用推定因果關係的例外規定。 4.5 條則規定在非高風險AI的情況下,推定因果關係的規定唯有在因果關係證明過度困難(excessively difficult)時才得以適用。 4.7 條則規定被告有推翻推定因果關係的機會。

註九:SAMAR ABBAS NAWAZ, The Proposed EU AI Liability Rules: Ease or Burden? (last visited:22/12/2022).

註十:關於 AI 的偏見議題,可參柳欣宇、黃英哲,AI 不中立?─探討 AI 偏見帶來的影響(最後瀏覽日:2023 年 2 月 4 日)。

本頻道「智財科技」,分享江湖在走,科技要懂,法律在這裡扮演什麼角色?

【知識新聞的力量】

我們堅持為所有人免費提供內容,因為我們深知,閱讀新聞的機會,不應有任何門檻,尤其是當人權議題備受矚目的時候,這常是推動社會進步的契機。然而,如果您有能力,《法律白話文運動》提供高品質的解釋報導,是推廣法律及人權思想的重要力量,每個月不到100元,我們就能在「官網」、「Facebook」、「Instagram」、「Twitter」、「Line Voom」、「Podcast」、「Reels」、「TikToks」、「實體活動」上發佈,沒有比這個更划算的選擇了。

熱門文章

最新文章

vertical logo

專注打造台灣法律文化的垂直媒體。

從法律認識議題,從議題反思法律。

社群媒體

文章投稿,請洽

editor@plainlaw.me

授權與商業合作,請洽

business@plainlaw.me

聯絡客服,請洽

support@plainlaw.me

未經同意,不得擅自利用本站內容。

Copyright © 2024 Plain Law Movement All rights reserved.

Powered by Welly SEO