【Netflix 紀錄片】《編碼偏見》科技世界準則的主宰者：演算法

《編碼偏見》(Coded Bias) 是一部由 Shalini Kantayya 擔任導演並在 2020 年 1 月於日舞影展上映的紀錄片，且隨後在 2020 年 11 月於 Netflix 上線。本片在網路電影資料庫 (IMDb) 介紹的頁面有著 6.7 / 10 的評分。故事從麻省理工學院媒體實驗室博士候選人 Joy Buolamwini 在研究過程中希望能打造出一面鏡子，她稱之為「勵志之鏡」的互動裝置開始談起。

她主要的設想是利用電腦視覺技術追蹤自己的臉部特徵之後，再藉此讓鏡子投射出影像。然而 Joy 卻發現她的裝置卻一直無法追蹤到自己的臉，直到她戴上一副白色臉孔面具後，系統才終於辨認出 Joy。

但，這是為什麼？

墨爾本國際電影節 (MIFF) 預告
（無中文字幕）

機器能夠辨識人臉的原因

一般來說，在訓練機器學習時會給電腦學習的實例，而在人臉辨識的領域則就是給予電腦「人臉」和「非人臉」的兩種圖片後，交由演算法學習，所以 Joy 開始分析進行演算背後所仰賴的資料庫，打算找出這個狀況究竟是由什麼原因所造成的。

結果意外發現這些資料裡面的人臉圖片大多數都是男性，膚色也都為較淺，也因此系統對於 Joy 的黑人女性臉孔感到很陌生，她也從那時決心開始探究科技裡潛藏的偏見。

人工智慧的想像與起源

Artificial Unintelligence 的作者 Meredith Broussard 也提到：我們大部分對於人工智慧 (Artificial intelligence, AI) 的了解最初皆來自於科幻作品，其中又以好萊塢為最大宗。然而那些影視作品終究是虛構的，在現今的世界中我們所擁有的只是狹義的人工智慧，而這種狹義的 AI，就只是數學罷了。

人工智慧源自於 1956 年在美國達特茅斯學院數學系的一場會議，而那場會議的與會者幾乎可說是主宰了奠定整個人工智慧範疇的權力。對於許多現今被我們視為正常的科技與社會觀點，其實這些都是來自於一小群的同類人所歸納整理出來的，而今天的問題就在於只要是人，就會有偏見；而人會將這樣的偏見轉移給科技。

藏在程式碼行間的偏見

Joy 後來也比對了各大科技公司的演算法如：IBM, Microsoft, Face++ 和 Google，結果發現這些演算法辨認男性臉孔的準確率高於女性臉孔，而辨認淺膚色臉孔的準確率也大於深膚色臉孔。

要說明資料和人工智慧之間的關係時，很多時候重點就如同 Joy 所說的：「資料主宰命運」。因此當訓練者所使用的訓練資料出現偏差時，想當然耳也會得到偏差的結果。人工智慧之所以能夠運作是基於資料本身，而資料則反映著歷史；因此所有的一切就像是被刻在演算法裡的基因，讓應運而生的科技產物好比是一面鏡子，將人類的過去一併給映照出來。

掌握過去者即掌握未來，掌握現在者即掌握過去

數學科學家 Cathy O’Neil 提到現在世界上有多種演算法，但它們全都被吹捧為客觀事實，而數學其實也被當成腐敗行為的擋箭牌。她對於演算法的解釋是：「利用歷史資訊去預測未來」

擁有程式碼的人，將程式碼應用在別人身上，這本身就是一種權力不對等的關係。

另外她也在 Netflix 上線的紀錄片《智能社會：進退兩難》中談及當下社群媒體利用演算法手握大量使用者資料的隱憂，她也以此主題撰寫著作，並於 2016 年出版書籍，中文版《大數據的傲慢與偏見：一個「圈內數學家」對演算法霸權的警告與揭發》則於隔年 2017 年出版，也有推出電子書版本。

延伸閱讀：【Netflix 紀錄片】《智能社會：進退兩難》為什麼社群媒體能讓人深陷其中？

技術在現今社會的應用

英國組織 Big Brother Watch UK 的主任 Silkie Carlo 針對在英國採用的人臉辨識系統進行了一項調查計畫，結果發現有高達 98% 的比對案例都是將無辜的民眾錯認成被懸賞的嫌犯，然而英國警方卻已將這組系統在倫敦境內推行，Silkie 擔心政府甚至有可能會將人臉辨識擴展至監視器鏡頭內進行套用。

而全英國有近六百萬個監視器鏡頭，一旦成真，《一九八四》中的 Big Brother Is Watching You 將不再只是小說內的情節。

美國紐約布魯克林區的大西洋公寓住戶 Tranae Moran 也講述該公寓運用人臉辨識系統來比對住戶是否做出管理處認為不恰當的行為，這件事本身就讓她感到很不對勁。

Who controls the past controls the future, Who controls the present controls the past.
誰掌握了過去，誰就掌握未來；誰掌握了現在，誰就掌握過去

——George Orwell

成長快速的演算法

Twitter and Tear Gas 的作者 Zeynep Tufekci 解釋說現今讓電腦靠演算法去消化大量資料的作法是近年來才開始盛行的，過去沒有足夠的資料可供演算法學習，但現在狀況已然不同了。

如今有幾十億人在智慧型手機上為科技公司創造的產品提供大量可收集的資料，這時就能將其餵養給演算法，讓它們歸納整理找出邏輯，進而建造出一套資料模型來達到精準分析，更進一步地還能藉此影響人類行為。然而這點也正是機器學習可能造成的問題之一，畢竟就連程式的設計者也無法明白了解這其中的運作方式。

後來她也舉出 2010 年 Facebook 利用「今天是投票日」的提示視窗影響了 30 萬人投票的的例子，說明社群媒體實際上已經擁有左右關鍵選情的本事，而若是 Facebook 沒有公佈這項實驗結果，這些科技巨頭一旦有心想要扳倒有可能損害他們利益的對手，普通人有可能根本直接被蒙在鼓裡。

延伸閱讀：【Netflix 紀錄片】《個資風暴：劍橋分析事件》揭露資料背後潛藏的力量

而現今全世界共有九間科技公司主導人工智慧技術，分別是 Meta (Facebook), Apple, Amazon, IBM, Google, Microsoft, 阿里巴巴, 百度與騰訊，而在這當中有六家是美國企業，其餘三家則是中國企業，因此大概就能藉由現況猜測人工智慧的發展將會循著兩條截然不同的方向前進。

由演算法執掌的法槌真的公正嗎？

片中也指出多項演算法其實並不客觀的實例，像是：

• Apple 共同創辦人 Steve Wozniak 指出該公司信用卡給予他的額度是他妻子的十倍
• Amazon 用來招募員工的演算法被揭發其拒絕了所有來自女性求職者的履歷
• 美國聯合健保被研究披露會將較健康的白人病患優先於病重的黑人病患處理
• 美國德州休士頓一所中學的教師 Mr. Santos 遭到教師評估演算法評為不適任教師
• 美國賓州費城的 LaTonya Myers 被風險評估演算法評為高風險緩刑犯

而且由於以上這些裁決皆是由演算法自己本身所做出的判斷，因此沒有人能夠為其解釋背後的運作原因，但接受評判的人有權利知道自己為什麼被這樣斷定。然而目前並沒有合適的法律配套措施來監管這樣的科技產物，即使演算法做出了錯誤的決策也無法對其追究甚至於上訴。

今天開始就是未來世界

在中國，社會信用評分制度已正式實施有段時日了，片中也採訪了一位杭州女性，想了解她對這樣的狀況有何感想。

對她而言，當生活有了可以被量化的標準時，做決定可以有所依循；好比說認識一位新朋友，以往可能需要花費大量的時間成本去和對方交流確定彼此之間的個性合不合得來，現在不需要了，只要查看對方的社會信用評分是高還是低，立刻就能決定要不要和這個人建立友誼。

而除了由真人出演的電影長片形式之外，近年來也有動畫作品嘗試探討類似問題。《PSYCHO-PASS 心靈判官》就是一例，它的主題正好切合現今社會將選擇權交給演算法後，可能造成何種影響的假設，該作品也對此提出疑問。

故事的舞台主要是發生在一個受到強大演算法監控的未來都市，一旦只要發現市民在這裡的數值超出特定標準，即可授予刑警權力使用搭載了該演算法系統的武器對其進行麻醉槍射擊，甚至是就地處決。該作品也有在 Netflix 上架，頗為值得一看。

總結

關於後續發展，則歡迎你點擊本部紀錄片的 Netflix 連結，繼續跟著片中人物的腳步，調查其他藏於演算法中的偏見，並找尋反制這類新時代科技的方式。