【Netflix 紀錄片】《智能社會：進退兩難》為什麼社群媒體能讓人深陷其中？

《智能社會：進退兩難》(The Social Dilemma) 是一部由 Jeff Orlowski 擔任導演並在 2020 年 1 月於日舞影展上映的紀錄片，且隨後在 2020 年 9 月於 Netflix 上線。本片在網路電影資料庫 (IMDb) 介紹的頁面有著 7.6 / 10 的評分。

片頭採用蒙太奇剪輯的手法，從多位曾在科技巨頭擔任要職的前任職員採訪畫面作為起點，接著製作團隊向這些對社群媒體奉獻過一己心力的人們拋出了一個問題：「你覺得問題出在哪裡？」故事也就從這些矽谷科技人的沉默中揭開了序幕。

Netflix 官方預告（無中文字幕）

大家都在用的社群媒體

現代人和智慧型手機已建立起密不可分的關係，當中又以社群平台的使用黏著率最為驚人。2022 年初，美國應用程式調查公司 App Annie 發布了 2021 年全球行動裝置應用程式使用動向調查 (The State of Mobile 2021)，在 Social 的部分下載量以 TikTok（國際版抖音）奪冠、Instagram 次之，Facebook 則緊追在後。

而在台灣市場的部分則是由 LINE 拿下第一名，Facebook 和 TikTok 分別位居第二及第三名。而要想搞清楚這整件事背後的成因，可能得先從我們與這些應用程式的初次相遇開始說起。

誰才是產品？

使用者從應用程式商店免費下載這些社群媒體，那麼他們究竟是如何賺錢的？片中就有一段談及這些公司是如何運作的。Facebook, Google 前工程師 Justin Rosenstein 道出了藏在這些看似「免費」的社群媒體背後隱藏的真相：「你以為網路上有很多服務是完全免費的，但是你錯了，費用是廣告主出的。」

這時候整個商業模式似乎已然呼之欲出——人本身就是產品，廣告主花錢購買我們的注意力，而我們對此毫不知情地被賣出。不過電腦科學家 Jaron Lanier 後來也根據這點做補充，這些科技公司真正要販賣的產品，其實是讓你的行為和洞察力有著難以察覺的細微變化。

If you’re not paying for the product, then you’re the product.
如果你沒有付錢買產品，那麼你就是那個被賣的產品。

——Tristan Harris

用人性弱點換取的無限商機

哈佛商學院名譽教授 Shoshana Zuboff 也進一步舉例，現在的世界創造出了過去未曾存在過的新型態市場。在這裡發生的商業活動好比是期貨，大量地買賣「可預期的未來」。差別只在於交易內容換成了人類，且它也只進行這一項交易內容；而這些市場已經產生了好幾兆美元。

以 Facebook 為例，根據 Meta 公布的 2021 年 Q4 報告所示，2021 全年營收為 1179.3 億美元，光是廣告來源的部分就高達 1149.3 億美元，約佔了全部營收的 97.5%，這數字實在是非常可觀。但這樣巨量的經濟效益又是從何而來的呢？

當心理學與科技結合

當人們在智慧型手機上使用社群媒體時，我們知道只要將手指往下滑動一拉，動態就會重新整理，接著畫面上可能就會出現有趣的新東西；在這過程中這時大腦便會開始分泌大量多巴胺 (dopamine)，這是一種神經傳導物質，它同時具有「獎勵」的作用機制，能讓人產生興奮、快樂與開心的感覺。當長時間讓「滑社群媒體」和「感到快樂」產生連結時，便會非常容易發生對其上癮的現象。

因這樣充滿未知的不確定而受到刺激的狀態，在心理學中把這樣的現象稱作「間歇性正增強」 (positive intermittent reinforcement)，而要說將這樣的概念應用到透徹的，非屬在賭場常見的「吃角子老虎機」，又稱「拉霸機」 (Slot Machine) 莫屬了。它同樣運用了這樣的設計模式，因此也極其容易讓人上癮。

There are only two industries that call their customers ‘users’: illegal drugs and software.
世界上只有兩種產業會把它們的客戶稱作「使用者」：毒品和軟體。

——Edward Tufte

延伸閱讀：賭性堅強？從心理學看賭博為何讓人上癮

先進的演算法讓人類進步？還是退步？

而無論是 Facebook, Instagram, Twitter 還是 YouTube，這些科技產品本身的核心價值都是相同的——演算法 (algorithm)。

演算法會使用個人化搜尋 (personalized search) 針對使用者量身打造客製化的搜尋體驗，因此會給予使用者經過篩選後，他們想要看到的或是觀點一致的內容結果。這樣的推薦模式可能導致多數人逐漸朝個別觀點聚攏，因而形成同溫層 (filter bubble) 現象，這對於社會上不同立場之間的溝通與討論有著嚴重不良影響。

科技雜誌《Wired》的撰稿人 Sinead Bovell 先前也製作了一部影片，邀請曾於本片中接受訪問的 Google 前產品設計倫理學家 Tristan Harris 與 YouTube 前工程師 Guillaume Chaslot，以及牛津大學網際網路研究所調查研究中心研究員 Dr. Grant Blank 一同探討演算法的運作模式，並進行實驗看看當使用者以不同的資訊餵養給演算法時，YouTube 會將什麼樣的影片推薦給我們。

非預期的科技變化

Facebook 初期創業投資者 Roger McNamee，便提出一個隱憂：如果一個獨裁者，或是專制政權想要控制這個國家的人民，那麼像是臉書這種社群媒體就會是最有效的工具。他曾在同樣於 Netflix 上線的紀錄片《個資風暴：劍橋分析事件》中談及 Facebook 本身的運作模式與其可能帶來的後果。

延伸閱讀：【Netflix 紀錄片】《個資風暴：劍橋分析事件》揭露資料背後潛藏的力量

假新聞橫行無阻的現象

片中也以 2020 年塵囂甚上的「5G 無線訊號會傳播 Covid-19」陰謀論來佐證社群媒體平台為何是培養假新聞最好的溫床。關於這類相關新聞，可參考由 BBC 中文刊登的：肺炎疫情：科學家稱5G傳播病毒的陰謀論「完全胡扯」暸解事情的來龍去脈。

下圖的畫面內容是 2019 年 8 月發生在香港的觀塘遊行，此遊行目的是要求香港政府回應五大訴求，並關注在觀塘區、九龍灣所安裝的智慧燈柱問題，原因是在於民眾認爲這些智慧燈柱會嚴重影響個人隱私。

參考來源：維基百科——「燃點香港．全民覺醒」觀塘遊行

但這卻在 2020 年遭有心人士惡意當作是中國人正在摧毀 5G 基地台的資料畫面。而隨著事件逐漸發酵，各地 5G 基地台遭到焚毀的新聞也一一浮上水面。

關於握有社群媒體所有權的公司是否有能力阻止這種狀況的相關議題討論，數學科學家 Cathy O’Neil 也一併出聲駁斥這些科技巨頭們的說詞，她認為這不是科技業者有辦法解決的事情，因為人工智慧並無法解決網路上充斥假新聞的問題，對於演算法而言，點擊才是唯一的真相。另外她也在 Netflix 上線的紀錄片《編碼偏見》中擔任要角，探究演算法事實上為何不只不中立，同時也不客觀。

延伸閱讀：【Netflix 紀錄片】《編碼偏見》科技世界準則的主宰者：演算法

聽起來社群媒體還真像隻邪惡的巨大怪獸。但發明這些產品的公司初期理念未必都抱持著惡意，在這類科技剛誕生的時候，初衷都是希望能讓世界變得更好。

Facebook 的工程師當年之所以創造「讚」這個按鈕，皆源自於一個「將正能量和愛散播到全世界」的動機，無庸置疑這是個好的出發點，但如今我們卻時常能看見青少年因「讚」的數量太少而引發憂鬱的新聞報導。這些現象一再地促使人們停下來思考：在事情走向無可挽回的地步之前，作為人類，我們有什麼解決方法？

總結

關於後續發展，則歡迎你點擊本部紀錄片的 Netflix 連結，繼續和片中與會者一同分析現行社群媒體所帶來的危害，以及我們可以提出什麼樣的解決方法來應對，試著避免促成毀滅性的後果。

參與本片的前職員們（根據片尾名單排序）

• Google 前產品設計倫理學家 Tristan Harris
• Twitter 前執行專員 Jeff Seibert
• Instagram 創始員工之一 Bailey Richardson
• Google 前員工 Joe Toscano
• Facebook 前營運經理、Uber 前產品經理 Sandy Parakilas
• YouTube 前工程師 Guillaume Chaslot
• Firefox & Mozilla 前員工 Aza Raskin
• Twitter 前工程部資深副總裁 Alex Roetter
• Facebook 前執行專員、Pinterest 前總裁 Tim Kendall
• Facebook, Google 前工程師 Justin Rosenstein