法白作者

2021-10-19發佈

2022-11-21更新

《進擊的公民:探索社會議題的法律指南》Deep fake肆虐?監控資本主義時代來臨!|話鹿讀冊

《進擊的公民:探索社會議題的法律指南》Deep fake肆虐?監控資本主義時代來臨!|話鹿讀冊
quotationmark image

本文引自《搜尋引擎好貼心?──監控資本主義時代來臨,請注意!》 數位時代下,我們的生活日益便利。 食、衣、住、 …

quotationmark image

本文引自《搜尋引擎好貼心?──監控資本主義時代來臨,請注意!》

數位時代下,我們的生活日益便利。

食、衣、住、行幾乎都可以透過網路與電子設備取得,像是深夜肚子餓,可以隨手叫餐點外送;如果臨時想找人說話,也能用配對聊天開啟交流;更別說一腳踏出門,就能呼叫車輛接送,住進事先預約的飯店。

二〇二一年,臺灣面臨嚴峻的疫情,許多民眾為降低染疫風險而盡可能地待在家中。谷歌( Google )等網路龍頭因此推出「移動趨勢報告」,讓外界能從資料中看到臺灣民眾最真實的移動狀況。如同大家所想,前往「零售店和休閒設施、公園、大眾運輸站、工作場所」的人潮大幅減少,只有住宅區成為唯一正成長的地點,顯示民眾減少外出或居家上班的趨勢。在享受科技帶來的便利時,我們千萬不能忘記科技之所以「貼心」,原因其一來自網路平台業者對掌握個人資料的「興趣」。我們在網路與電子設備中,因為種種活動所留下的足跡,看似毫無用處、彷彿「數位廢氣」,但在那些業者眼裡,別人的垃圾卻是可以活化占有的黃金。這就是監控資本主義的奧義。

監控資本主義到底是什麼?

你是否也有一種經驗:跟朋友討論想要買甚麼東西,結果回家在一打開網路,跳出來的廣告都是類似東西的經驗呢?這一切便是科技惹的禍。

這是因為當人們在購物的時候,往往會在搜尋引擎中主動用關鍵字查找心儀的商品,而這樣的情形如果反覆多次,平台業者也就可以趁勢蒐集,並搭配該等使用者的性別、年齡、地域等參數,綜合研判不同族群會對某些特定事物有更多喜愛;如此一來也就能更精準對不同族群行銷,形成一個生產與銷售更有效率的體系,這就是「監控資本主義」的時代背景。

試想,谷歌( Google )發跡於網路搜尋引擎,但它們為何還要額外開發硬體裝備與通訊軟體?亞馬遜( Amazon )身為銷售通路巨擘,為何要額外推出平板閱讀器,以及家用、車用聲控助理?臉書( Facebook )作為社交平台王者,又為何還要額外努力串聯用戶們在該平臺完成社交、搜尋、影音、直播、電商、甚至電子支付?

正是因為現代科技產業懷抱著共同企圖,為了讓消費者願意購買更多的產品或服務,這些產業努力創建各種機會,抓住眾人的眼球與時間,多方蒐集用戶的特徵與數位足跡,藉此推論各種情報,以便於轉換成具體收益,甚至重新包裝——像是關鍵字排名——販賣給其他有需要的領域。

如同資本主義在歷史上的興起,即想盡辦法利用原料、土地、勞力,打造成各種商品,帶入市場銷售,追尋獲得更多的資本。當代進化成「監控資本主義」後,領頭的科技產業不只是想侵奪自然資源,轉而在未取得個人完全的同意下,架起無所不在的電子渠道,提取並分析眾人行經後留下的種種資訊,嘗試向未來猜測、引導、甚至控制眾人的行為,最終將使用者的生活轉化為可以企業可以量化的巨大財富(註一)。

監控資本主義對民主的侵蝕

回顧人類歷史發展,可發現每次當有重大新科技問世,都會造成社會的變遷。像是蒸汽機之於工業革命與資本主義的大躍進,而當代的社群平台也改變了人們彼此溝通與串聯的方式,還有認知並處理資訊之後對民主所帶來的影響。

因此,資訊的流通與利用,「有誰知道?誰決定?誰決定誰決定?」也是貫穿《監控資本主義時代》一書的核心疑問,作者肖莎娜・祖博夫( Shoshana Zuboff )稱監控資本主義下的權力型態乃「機器控制主義」;弔詭的地方在於,使用者的參與固然造就了這部機器,但是使用者卻不是機器的擁有者,而是淪為機器的制約對象

前面說到,人們會在搜尋引擎中主動留下關鍵字,平台業者也就可以趁勢蒐集,如此之後便能更精準對不同族群提供投放,而這樣的行銷自然也可以用在經營選舉之上。演算法可利用過往的數據自我學習,預料我們喜歡接收什麼樣的資訊,誘使我們支持特定陣營。

大家可以回想二〇二〇年的時候,當臺灣總統、立委大選進入最後階段時,新聞報導指出:臉書及 IG 突然出現許多設有「宣告我的投票意志」的標籤文,而第一波的貼文者大多是按讚數在 一到三萬之間的實況主或模特兒,而且他們在過去多半不曾發表過政治性的貼文,因而被鄉民們質疑有「集體帶風向」的嫌疑。

由於多數貼文者在照片中比出握拳姿勢,且口徑一致地抱怨經濟不佳、中小企業倒閉、薪資水平低,並呼籲大選一定要出來投票,這樣的舉動引發大家好奇:是否為特定人士的串聯?社群平台在人們分享貼文的過程中,又扮演何種角色?

於是我們可以看到,當散佈訊息甚或陰謀論等想法,不再是業餘人士抒發時間的無聊嗜好,而進化成可以兌現資金的商業模式,甚至左右政局的終極武器。如同鄭志凱在《當陰謀論成為產業,民主社會將向專制傾斜》一文所言:

一旦散佈不實資訊有利可圖,自然吸引更多人炮製各種聳人聽聞的故事;陰謀論就像是永遠不死的陰魂,在資訊市場裡四處流竄,淹沒了真實資訊的音量。」

如此一來,接收資訊的向下沈淪模式也就正式開啟。換句話說,平台使用者所接收到的資訊,也就隨著「自我喜好」愈來愈封閉;我們總以為自己是自由地摘取各種資訊,但慢慢地可能都變成是在他人偷偷塞進來的陰謀論中作出選擇,這樣品質之下所醞釀出的民主,又是如何呢?

於是,民主制度的初心,固然是採取「一人一票」還有「多數決」的作法,讓取得贊同意見較多者,站上啟動國策的制高點;並在審議民主的預設下,一個完善的選舉制度,應思考如何讓「人選與政策」都能在充分資訊的培力之間,經過各界好好審議,方作出決定。

但這些美好的想像,碰到了虛假訊息充斥的現代政治運作,猶如高速撞上山壁的火車,只能支離破碎。就像臺灣二〇一八年的公投,由於某些倡議者不斷製造誤導,也讓許多選民在極短暫的時間內,在連題目都弄不清楚或不知其利弊得失的前提下,一次性地對數量眾多的提案作出重大的政治決定。

而當這樣廉價且無深謀遠慮的選擇反覆幾次之後,不可否認地將對民主社會的發展造成難以回復的損害。除了社會各部門之間的信任蕩然無存,政策是否達標也將不再能有期待;虛假訊息或陰謀論會是未來選舉經費的支出大宗,更主宰了之後選舉的每次結果——我們將看到更多擅長嘴上功夫的候選人登上大位

歷史學家提摩西.史奈德( Timothy Snyder )提過:「民主是改變統治者的過程,人民不再相信選舉機制時,民主就死了。問題不在是否舉行選舉,而在選舉是否自由公平。」

有本書叫《民主的弱點:民意,如何成為世界強權操弄的政治武器》,即在分析外國勢力介入本國大選破壞公平性的過程;我們以為的民意,不知不覺中可能即淪為他國操弄的刻意結果。該書提到:

「中情局副局長巴比・殷曼就說:『格別烏長久以來就一直想在美國散播製造動亂,並破壞民主體制。但現在有了社群媒體後,讓他們操作起來更容易了,而且方法還更直接。』……俄國網路研究局當時就決定要……『扶植激進團體、支持對於本身社經狀態不滿意的社群平台用戶,以及反對社會運動,以便醞釀政治上的緊張氣氛。』……川普前國安顧問麥克邁斯特就告訴筆者說:『最讓人心驚的就是俄國人利用我們國內的分裂,再將之催化得更為嚴重,以致所有的族群都相互對立,藉此讓大家對民主原則、制度和過程的不信任越來越加深。』」

這樣的結局,是否是現代民主社會不可避免的宿命?而如果我們同意這樣的趨勢卻不採取防衛行動,是否也是一種對民主衰敗的冷眼旁觀?

我們可以捲起袖子做些什麼?

我們不該眼睜睜看著,生活中諸如隱私、自由、民主等核心價值,受到國際企業們的威脅。這就像美國疫情與非裔人權運動期間,因臉書放任假資訊與仇恨言論流竄,被批評嚴重激化社會對立。

猶如前述《民主的弱點(下略)》一書觀察:

「(俄羅斯)他們一直想辦法要激化原本只有一點點偏激的美國人民。比如說,你喜歡『黑人的命也是命』運動,我們就讓你對警察抱持敵意。你不喜歡移民嗎?那我們就抹黑你,讓你成為大惡人、恐怖、反移民的種族主義者。」

最終,社群平台變成散播仇恨思想的理想天堂。

於是,美國民間團體發起「停止以仇恨牟利」( Stop Hate For Profit )活動,要求臉書引入人權專業背景的管理階層、重新檢視仇恨言論政策並強化篩濾機制、避免以演算法獎勵極端主張等看法;此一活動不但吸引逾百個非營利組織連署,連聯合利華、可口可樂等財星五百大廣告主也群起抵制,宣布將暫停在臉書刊登廣告(註二)。

這波廣告抵制潮,一度導致臉書股價大跌。為了平息眾怒,臉書只好緊急推出「政治文警示標籤」等功能,並表示會加強仇恨言論審查。臉書高層宣稱,他們會繼續檢討改進。

果然積極的行動比純粹的文字大聲、有效多了。

臉書高層放任危機發生的態度,遭到紐約時報記者史威瑟( Kara Swisher )形容,馬克祖克柏的態度,讓她想起自己的十五歲兒子,飯後只不過將碗盤放進洗碗機,就開口邀功、語氣像是施惠,彷彿洗碗不是「他的本分」;史威瑟批評,臉書等社群平台進行自我管理、避免激化社會衝突也是本分,不該每次等到外界施壓,「才把髒碗盤放進洗碗機」(註三)。

《監控資本主義時代》這本書也提醒了我們,數位平台有今天這樣的態度,多半是因為有「法律護城河」傍身,如果社會大眾沒有更積極有效的抗議,他們幾乎不怕任何的威脅。因為在新自由主義的大旗下,平台早已搭起旋轉門——積極遊說政府,所有法規都是沉重的負擔,不該讓公權力干預經濟操作;甚至宣稱為了反恐等急迫狀態,趁勢削弱對隱私權或其他權利的保護,以獲得更多不受法律限制、對各種流通數據得以上下其手的空間

數位公民站出來!

有鑑於此,對「數位公民」的認知就顯得十分重要。

《監控資本主義時代》說道:

「我們多數人並未抗拒谷歌、臉書等監控資本初期的入侵,因為除了嘗過甜頭,產生依賴,不想要落後其他使用者之外,當時他們的基本操作機制與商業手法新奇又陌生,根本不可能會發現他們的做法有何不同。更重要的是,我們都把焦慮與警戒用來對付政府權力,因而對私人企業的攻勢毫無防範,再透過對法律規範的拆解,使監控資本主義反而在市場中取得制度性的鞏固地位。」

首先,就是取回我們的時間與注意力,如同哥倫比亞大學法學教授吳修銘在《注意力商人:他們如何操弄人心?揭密媒體、廣告、群眾的角力戰》提到:

「就連在等待看牙的時候,我們的手指已掌握了全世界:我們可以收看信件、瀏覽最喜歡的網頁⋯⋯在過去我們只能從牙醫診所的舊雜誌之中找些樂子……擁有這些選擇……我們也變得更不像自己,更加臣服於各種媒體之下。我們大部分人都是在沒有同意的情況下,就被動接收了資訊,讓商業無時無刻剝削我們的注意力……我們需要發動一項取回人類的計畫。比較一下,我們要花多少功夫才能夠取回某種天然資源,像是把廢棄停車場的土地回歸荒野。在接下來的世紀中,最需要保育和保護的人類資源大概就是我們的意識和心靈空間。」

再者,就像臉書創辦人休斯( Chris Hughes ),在二〇一九年《紐約時報》發表的文章《是時候拆分臉書了》( It’s Time to Break Up Facebook )中表示:馬克.祖克柏( Mark Elliot Zuckerberg )現在的權力太大,其控制臉書、 Instagram 、 WhatsApp 這 3 個大平台。世上每天有數十億人使用它們。如今的臉書董事會更只像是個諮詢委員會,早已失去監督功能,因為光是祖克柏就握有六成的投票權——他能決定用戶看到什麼新聞,隱私設定也是他說了算(註四)。

因此,若能證明資訊隱私還有市場秩序將因此失靈,並能透過公平合理的遊戲規則,將 Instagram、 WhatsApp 與臉書拆分,禁止它們過度共享用戶資料與營業資源,此舉將能有效弱化臉書帝國的勢力,有助於保持競爭與創新,並且還給用戶們自己做決定的權利。

這也意味著,網路使用者,就是我們,必須要先對這種「剝削」有意識,趁機看清整個監控資本主義的運作邏輯,並團結起來,設想有無任何規範能適當限制科技產業從我們的個人資訊中獲取不當利益。

最後,社群平台既然是傳遞虛假訊息或仇恨言論的主要管道。因此,即有認應以法律規範要求網路中介業者,負責將相關訊息從其平台移除。好比德國《網路執行法》的立法先例,就是交由平台業者負責移除不實言論。

這樣起身防衛民主的行動,即「防衛性民主」的理念,剛好也源自於德國。這是因為德國過去並無類似防衛機制,導致希特勒等極端分子透過民主程序奪取政權,進而自我毀滅於民主之手。因此,二戰之後,德國制憲者就著手為全新的共和國建構一套具有自我防衛能力的民主制度,以免重蹈覆轍。

因此如果為了捍衛民主機制的健全,由人民要求政府擬具規定要求社群平台在一定條件下移除某些言論內容、刪除其帳號等其他處置,即命業者代替政府——從事篩選過濾特定內容或資訊的工作,以防止不當或煽動言論內容的擴散,回到臺灣的的法律脈絡之下,就必須考量言論自由與公共利益間的權衡。

如同本書前面所說的,面對不喜歡的政治性言論,若該爭議言論的主張只是讓部分聽眾少了安全感,多了不悅感,並未實際對民主體制產生明顯而立即的危害,依照我國大法官及國外類似判決的說法,可能就比較沒有介入管制的正當性。 

然而,當攸關公共議題的政治資訊,若是來自熟識的社群成員,其實容易引發閱聽者對相關內容的信賴,進一步改變閱聽者對政治人物的認同,逐漸改變政局的走向,所以當資訊的信賴基礎有所動搖,此種散佈方式對民主政治的正常運作,不免有所衝擊。

綜合前述,不實甚或煽動的陰謀論,若在網路上散佈,將視其言論內容、傳播速度、衍生規模與危害急迫性,在個案中審慎認定有無「明顯立即危害」的可能,決定有無防堵的餘地

此外,若不考慮下架,只要求國家「事後」追究違法內容的民、刑事責任,一方面會因為網路跨國性和匿名性的現實條件,產生執法的困難,二方面上也不可能消化因許多不實言論所帶來的爆炸性案件量。

所以,鑑於公權力處理案件的客觀能力,除非國家完全放棄管制公共秩序的任務,否則基於社群平台掌控資訊流動的關鍵隘口地位,即有要求網路中介者發動適度管制的空間。

因此,我們也找到了管制社群媒體的正當性。但所謂兩權相害取其輕,一方面我們不允許社群媒體上有惡意放出的錯誤或煽動資訊,使市民無法接近正確並完整的資訊,進而破壞政策的充分討論,讓公共監督的機制形同虛設,二方面我們也不該允許用漫無邊際的「妨礙公務或國家安全」,輕易地封殺言論自由,戕害民眾的知的權利,逐漸蠶食民主的運作基礎

像是比較法上,社群平台若不移除違法內容,就會面臨罰鍰風險,就很容易讓網站在無法明辨內容違法與否的前提下,就先移除內容。且當用戶因為社群規模,而難以切換平台之際,網站甚至可能根本欠缺好好判定內容是否妥適的動機,就逕自採取自動且系統化的方式,讓資訊眼不見為淨。

在這些情況下,都將導致平台做出過度的管制,成為另類的言論壓迫者。

對此,如臺灣學者蘇慧婕倡議(註五),可以考慮的因應手段像是:規範社群平台讓用戶陳述意見,並說明決定理由的義務,並保障用戶言論的重新上架權,或對於社群網站過度阻擋的情況,設計一定罰鍰因應等等。

話說,近幾年不是流行所謂「亡國感」一詞嗎?所謂的「亡國感」,並不是針對任何一個國號,而是擔心以民為主的生活方式,在無力之中消逝。這是因為當我們選擇了法治社會,也就選擇了定期改選、權力分立、基本權利保障、照顧少數族群等基本價值觀。因此所謂的「亡國感」,正是設想前述民主要素會因為政治情勢消失,而對這樣的生活方式感到憂慮

面對那些蒐集資訊的企業,好比非洲草原上的盜獵者,將個人資訊當作是美麗的象牙,在摘取完我們最珍貴的數位足跡之後,像是拋下屍塊一般,棄我們作為人類的自主性不顧,並有意無意破壞我們珍視的民主社會。遺憾的是,現代人與數位平台共生似乎已是無法倒轉的現況,那麼我們除了卸下無知、冷漠,開始找回自我的注意力,並對盜獵者的剝削感到不耐與憂慮外,其實還是可以積極做些什麼的。一起做個進擊的公民吧!

本文重點整理

1. 如同傳統資本主義想盡辦法追尋獲得更多的資本,當代的「監控資本主義」不只想侵奪自然資源,更在未取得個人完全的同意下架起廣大的電子渠道,提取並分析眾人的種種資訊、嘗試控制眾人行為,並轉化為巨大財富。

2. 在監控資本主義下,使用者參與造就了機器,但使用者卻不是機器的擁有者,而是淪為機器的制約對象,包含使用者所享有的民主。

3. 我們經常用焦慮與警戒對付政府,但對私人企業卻毫無防範。透過對法律規範的拆解,私人企業令監控資本主義在市場中取得制度性的鞏固地位。

4. 現代人與數位平台共生似乎已無法倒轉。對盜獵者的剝削感到不耐與憂慮之餘,我們更應該找回自我注意力,積極要求政府制定相關管制規範(拆解獨占企業體,或者建構不實言論的下架機制)。 

註一:不僅企業想蒐集個人的電子資訊,如同台灣人權促進會副秘書長何明諠在《肺炎疫情引恐慌:電子監控的「民主內傷」誰來顧?》提到:像是政府為了防疫,也採行許多電子監控手段:特別是不少跨部會的資料串接、電信監控、口罩實名制等機制的運作,在欠缺足夠的法律及個資風險控管前提下,讓臺灣政府潛藏著實質邁向監控國家的風險。在防疫同時,我們亦須謹慎以待,避免民主社會因本次事件,洞開未來國家監控的大門。

註二:本段外電資訊引自黃哲斌,《科技巨頭的無情詛咒:一個數位孤僻鬼的告白》,獨立評論@天下,https://opinion.cw.com.tw/blog/profile/51/article/9795,最後瀏覽日期:二〇二一年五月二十四日。

註三:本段外電資訊引自黃哲斌,同前註。

註四:本段外電資訊引自自由時報,《 FB 共同創辦人撰文:是時候分拆臉書了》,https://ec.ltn.com.tw/article/breakingnews/2785773,最後瀏覽日期:二〇二一年五月二十四日。

註五:引自蘇慧婕,〈正當平台程序作為網路中介者的免責要件:德國網路執行法的合憲性評析〉,《臺大法學論叢》,第四十九卷第四期,二〇二〇年十二月,頁一九六二。

本文來自FUN學出版《進擊的公民:探索社會議題的法律指南

本書作者:王鼎棫

法律白話文運動網站主編,東吳及靜宜大學法律學系兼任講師,東吳大學法律學系博士班候選人(專攻高齡社會法制)暨社會學系碩士生。喜歡微醺下的寫作與閱讀。曾在國定古蹟裡擔任大法官助理,看見許多憲法時刻的創造發微。幻想一個就算沒有政府,人人也都能互享資源、互相尊重的世界。

2021/10/image1.png

本專欄「娛樂文創與IP的距離」:是由威律法律事務所的周律師及魯律師組成。兩位深耕智財領域,從過去服務影視、音樂、動畫、遊戲、設計、出版、媒體行銷、演藝、體育、授權、藝術、數位內容等娛樂及文創產業的經驗,體認並倡導IP議題的實用性與重要性。

用行動支持法白

專注打造台灣法律文化的垂直媒體,從法律認識議題,從議題反思法律。

熱門文章

最新文章

vertical logo

專注打造台灣法律文化的垂直媒體。

從法律認識議題,從議題反思法律。

社群媒體

文章投稿,請洽

editor@plainlaw.me

授權與商業合作,請洽

business@plainlaw.me

聯絡客服,請洽

support@plainlaw.me

未經同意,不得擅自利用本站內容。

Copyright © 2022 Plain Law Movement All rights reserved.

Powered by Welly SEO