老大哥正在看著你！演算法如何主導我們的生活？｜話鹿讀冊

老大哥正在看著你！演算法如何主導我們的生活？｜話鹿讀冊

本文乃出自行人出版《連結之戰：網路、經濟、移民如何成為武器》

《第二章 被連結的人：社會是如何因為忌妒心而分裂》：

輕易接觸的善與惡——自動化與失去控制？

當你在交友軟體上面朝著不同的個人簡介左滑右滑時，你感覺像是主宰了宇宙一樣，只需要動用一根手指頭就能決定別人的命運。所有的事情都自動化完成，成功的候選人乖乖排好隊等著你的判決。但大多數的使用者都知道，真正的權利其實掌握在決定要呈現哪些照片給你看的演算法手上。如果電腦決定你不是那麼地吸引人，那些擁有超模長相的人也不會被出現在你的面前，成為你潛在的伴侶之一。為了要﹁增進用戶體驗﹂，所有的決策都在你背後完成。大多數的時候，你可能會願意接受這樣的狀態，但在某些片刻，當你的無能為力變得一清二楚的時候，你也只能對著手中的機器發脾氣。

這就是第三個數位革命的黑暗面：當看到所有事務都已經被自動的整理好的時候，從表面上看來一切都毫不費力、又使人感到自己握有權利。但演算法的黑盒子也讓我們感到世界正在失去控制，而這在人們身上產生了劇烈的影響，進而影響到國家政治上，再而蔓延到全球。透過演算法驅動的各個平臺，每天都在促使我們割讓我們的決定權，除了在約會軟體上之外，各個平臺也告訴我們要去讀什麼書、要買什麼產品、什麼時候要運動。

愈來愈多政府跟公司利用演算法與大數據來對我們生活的各個層面下決定，從學生的考試、貸款審核、面試過程、到醫療資源的取得。在過去，廣告商會開玩笑說，他們所花的成本，有一半都是在浪費錢，只是他們沒辦法得知是哪一半。但現在，Google的監控資本主義已經把銷售的藝術變成一門科學。他們已經得知，在什麼時候該把怎麼樣的特定訊息傳給哪些人，會讓消費者最容易行動。

在有理智做選擇的時刻，許多消費者開始發現自己愈來愈常被引導到以他們為標靶客群的商品面前，同時價格也是因為個人而調整過的。舉例來說：旅行網站Orbitz就被指控過用不同的價格將商品賣給PC與Mac的用戶，因為依照數據顯示，Mac用戶的收入通常比PC用戶還要高。據說Uber也在研究是否能夠在手機快沒電的用戶面前呈現較高的價格。而辦公室用品公司Staples也被指控願意出更低的價錢給住在對手品牌附近的客戶。如果說這樣的操弄被普及化的話，顧客的選擇就不復存在了，市場上就只會有主動的供應商提供個人化且﹁無法拒絕的報價﹂給被動的消費者們。S雖然依照我們所存在的這個八十億人的﹁單一市場﹂的邏輯看來，我們可能不會依循這樣的路徑繼續下去，但我們可以看見演算法是如何在市場上限縮消費者的選擇能力。

當然，大數據與人工智慧對我們的自由所帶來的威脅並不只局限於市場上。在二十一世紀的二十年代，這個美麗新新世界裡，所有人都有一個「科技無意識」（Digital unconscious），能夠讓各個公司在某個程度上比我們自己還更認識自己，不論是Google搜尋的快取還是簡訊或電子郵件。因為我們在網路上留下來的科技足跡，以及從我們手機裡面搜集來的後設資料，我們的每一個消費行為、每一個搜尋、每一個寄出的電子郵件，都變成赤裸裸的揭露與自白書。只透過搜尋紀錄當作線索，Google很常比當事人自己更早知道自己懷孕了。這些經濟規模能夠與國家批敵的科技公司們，為了追求自身的獲利，而非像國家一般的為了增加自身公民社會的深度，替我們決定我們看到哪些資訊、聽從什麼樣的人、做出什麼行動。

他們用來分析所有的資訊的武器，就是人工智慧，跟在上一章提到，打敗世界圍棋冠軍李世乭的AlphaGo一樣的科技。而最了解這項科技的優缺點的人之一，是斯圖爾特．羅素（Stuart Russell）博士。他有著微微的禿頭、閃爍的雙眼以及直率的表情，即便他長年旅居美國，還是保有著他的英國腔。

他的名字被大多數的科技學家熟知，除了因為他身為電腦科學家的身分之外，也因為他在一九九○年代共同編寫了銷售超過五百萬本的標準人工智慧教科書。但在今日，當他討論到他的工作內容時，他總是警告說他的研究內容很可能會影響人類的存亡。跟伊隆．馬斯克（Elon Musk）、史蒂芬．霍金（Stephen Hawking）、鐵馬克（Max Tegmark）與尼克．博斯特倫（Nick Bostrom）還有其他人一樣，他們都對於創造出超人類智能的可能提出了警告，認為這樣的發展可能會不經意的導致人類的滅亡。羅素是個正向又好相處的人，但他對科技的警覺心卻日益的增加。在二○一九年，他把這些擔憂書寫成一本傑出的書，《與人類相稱：人工智慧與控制的難題》（Human Compatible: AI and the Problem of Control）。跟許多這個領域的引路人一樣，他最大的擔憂就是人工智慧將人類的能動性（agnecy）奪走，同時危害我們的存亡。

羅素博士解釋，問題出在人工智慧系統只會專注於我們設定它們完成的目標上：在棋盤上贏得勝利、降低碳排量、或完成像人類一般的對話等任務。一旦人工智慧找到能夠達到目標的策略，他們就會不顧一切因果的遵循這個策略，比方說：如果你要求一臺自動駕駛的車輛從甲地到達乙地，即便在路上可能會撞死路人，這臺車也會開到目的地；或要求人工智能減少碳排量，它可能會發現最有效率的方式就是殲滅人類。

如果人工智慧得到一個很模糊的目標，它可能會做出讓人類感到厭惡的事情。這樣的情形，羅素稱之為「邁達斯國王難題（King Midas problem）」。他在Vox雜誌的一篇訪問裡面說：「麥達斯國王提供了目標：我想要我雙手所處之物都成為黃金。」他確實得到了他所要求的，然而不幸的是，他所碰到的食物、飲料、以及他的家人也都變成黃金了，最終他悲慘的飢餓而死。「當精靈給你三個願望的時候」羅素繼續解釋「最後一個願望都會是『我希望前面兩個願望被消除，因為我毀了全世界。』。」

羅素與其他人工智慧懷疑論者最極端的恐懼是殺手機器人將會取代人類，或接管全世界。但即使這些惡夢般的情境沒有真實發生，人工智慧也有許多方法能夠摧毀人類的能動性。人工智慧雖然才剛開始發展，但它已經引發了上千個像邁達斯國王這樣讓人感到憤怒或甚至憎恨的事件。已經有許多作者發表演算法是如何延續並且凸顯偏見跟歧視，因此導出明顯帶有種族歧視與性別歧視的結果。其中一個經典的案例，是美國的科技巨頭Amazon建構來協助雇用人員流程的人工智慧機器人，最終Amazon因為一個重大的缺陷得要把這個系統撤除：因為它不喜歡女性。

「每個人都想得到這個夢寐以求的機制。」其中一個曾經在Amazon使用過這個軟體的人說：「他們基本上希望創造出一個裝置，在我提供一百份履歷給它時，它能自動篩選出前五名，然後我們就會僱用那前五名。」但到了二○一五年，公司發現這個系統會自動的排除女性候選人。問題出在於，在設計之時，人工智慧被設定回頭去檢視過去十年內公司內部錄用數據，而在這個男性主導的電腦工程世界裡，大多數比較亮眼的履歷都是男性的履歷，因此演算法便教導自己，把女性剔除在選擇名單當中。而Amazon絕對不是被大數據當中存在的歧視所影響的唯一例子。

對於演算法將人們的能動性奪走感到最不安的人，或許不那麼令人感到意外的，也同時是對權力最著迷的人，而其中一人就是亨利．季辛吉（Henry Kissinger）。九十多歲的季辛吉，並不是透過Tinder或Grindr這樣的交友軟體意識到人工智慧所帶來的威脅。對他來說，頓悟發生在一場人工智慧論壇當中，當時專家講述著建構AlphaGo的過程。他驚艷的發現：AlphaGo並不像打敗世界西洋棋冠軍，加里．卡斯帕洛夫（Garry Kasparov），的電腦深藍（Deep Blue）一樣是被人類設計出來的，而是我訓練出來的。AlphaGo藉由與自己演練無數場棋局來磨練自己，直到打敗世界圍棋冠軍。而比贏過人類更重要的是，AlphaG發展出人類永遠都沒有嘗試過的下棋策略與手法，它似乎已經開始運用我們所知範圍以外的智能了。

季辛吉嚇壞了，他開始問自己，這些能夠自主學習的機器將會如何運用知識？他們會互相溝通嗎？以及他們是如何做決定的？他默想：「人類歷史有沒有可能走向印加文明的終點呢？正如當時印加文明的人遇到令他們無法理解，甚至敬佩的西班牙文明一般。」X或許季辛吉對於人工智慧了解不多（誠如許多科學家從他發表的評論當中發現的一樣），但他發自內心的感受到，他原先奠基在個人中心與啟蒙人類的世界已經逐漸落幕。他擔憂這樣的科技會使智能與道德意識開始分道揚鰾：這樣的新科技會如何被使用呢？這樣能夠自己發明執行事情方法的電腦，該如何反思自己的行為可能產生的後果呢？

以前的觀念是：自由主義是管理國家最有效率的方法，因為人們比政府還要更了解自己。由中央統一規劃國家事務的方法沒有被大多數國家繼續採用的原因，並不是因為在理念上不符合，而是因為要一小群人去預期一大群人的需求是不可能的。

本書作者：馬克．里歐納德（Mark Leonard）

歐洲對外關係委員會執行長及共同創辦人，其委員會有三百位歐洲領導人，包括現任以及前任總統、總理、經濟及外交部長。

曾任職歐洲改革中心 （Centre for European Reform）擔任外交政策中心（Foreign Policy Centre）創始主任、德國馬歇爾基金會（German Marshall Fund）大西洋兩岸代表的身分駐美，並曾以中國社會科學院訪問學人的身分旅居北京。

里歐納德的論文和文章散見於大西洋兩岸的雜誌書報，包括《經濟學人》（The Economist）、《衛報》（The Guardian）、《金融時報》（The Financial Times）、《觀察者報》（The Spectator）、《太陽報》（The Sun）、《解放報》（Libration）、《世界報》（Die Welt）和《華爾街日報》（The Wall Street Journal）等。

 馬克．里歐納德也是《歐洲如何打造21世紀？》（Why Europe Will Run the 21st Century？）及《中國怎麼想？ 》（What Does China Think?）作者。現居於倫敦與柏林。

本書譯者：王眞如

影像及劇場表演者、戲劇構作、聲音訓練老師及譯者。

臺北藝術大學電影創作學系表演組學士，英國皇家中央演講戲劇學院（Royal Central School of Speech and Drama）聲音訓練（Voice Studies: Teaching and Coaching）創作碩士（MFA），現居倫敦，任教於現場及紀錄藝術學院（The Academy of Live & Recorded Arts）等單位。