Google、Instagram、Twitter 前員工揭秘,互聯網如何利用你的心理來對付你

愛範兒 於 19/02/2021 發表 收藏文章

「時間就是金錢」這句諺語,在 2011 年被拍成了科幻片《時間規劃局》。電影構築的未來世界中,「時間」完全等同於金錢,辛苦工作賺「時間」,再用「時間」買買買。

▲ 電影《時間規劃局》(2011)

好像只會出現在科幻片的奇思妙想,卻在當下以另一種形式成為現實——我們的注意力和時間,暗地裏被兜售給廣告商賺取金錢。但這僅僅是冰山一角,屏幕那端藏着太多見不得人的謎團。

有多少次看到廣告、收到推送,會覺得手機在竊聽自己的生活?

明明是悄悄關注某人,還是會毫不遺漏收到他/她的動態。親朋好友的生日總有即時的提醒,説不定還會有禮物推薦。甚至還有一個説法,對着男友的手機多唸叨自己想要的禮物,男友就會收到相關推薦。

這一切背後的秘密,都在去年 9 月 9 日上映的《監視資本主義:智能陷阱》(以下簡稱《智能陷阱》),這部 Netflix 高分紀錄片中得到揭曉。

▲《監視資本主義:智能陷阱》海報. 圖片來自:Netflix

雖然被定義為紀錄片,看完這片子卻不禁驚歎,紀錄片還可以這樣拍!

既有科幻片十足的虛構畫面,又有貼合講述的改編故事,還有借鑑劇情片的精彩剪輯。看了 app 標記後戳進去的這一段,不正是《夢之安魂曲》對毒癮的描繪嗎?

▲ 紀錄片《監視資本主義:智能陷阱》

▲ 電影《夢之安魂曲》(2000)

而且還會不時來個打臉環節——那邊 Facebook 創始人馬克·扎克伯格剛聲稱「人工智能可以解決問題」,《數學殺傷性武器》(Weapons of Math Destruction)的作者 Cathy O’Neil 博士立馬現身,有理有據地解釋「這是騙人的」。

▲ 紀錄片《監視資本主義:智能陷阱》中馬克·扎克伯格和 Cathy O’Neil

看完片子瘋狂安利的觀眾不在少數,在推特上搜索片名,就會看到一堆「你一定要看」、「你一定要看」、「你一定要看」……分享熱情絲毫不亞於傳教的狂熱信徒。還有人將這部紀錄片跟「開眼看世界」這個詞語掛鈎。
引用這部片子解釋了遠遠超出為什麼一分鐘從谷歌搜索最佳沙發,下一分鐘就會在 Facebook 信息推送中看到沙發廣告這個問題。

——爛番茄上美聯社馬克·肯尼迪的熱門評論

國人請自動將 Google 替代為百度,Facebook 替代為微博、小紅書、抖音等等,是不是有那味兒了?讀完接下來的揭秘,你也有望成為另一位 Cathy O’Neil 博士,振振有詞地戳穿科技大佬們的謊言。

1. Netflix 的高招:用科技公司如何競爭注意力的揭秘,來贏取注意力

《智能陷阱》請來很多業界核心人物,曾服務過 Facebook、Instagram、Google、YouTube、蘋果、推特、火狐、Pinterest……如果主演一欄只能寫上一位,那必定是前 Google 設計道德倫理學家、人道技術中心的創始人特里斯坦·哈里斯(Tristan Harris)。

▲ 特里斯坦·哈里斯(Tristan Harris)

聊到特里斯坦與 Netflix 的「過節」,那得回到 2017 年特里斯坦在 TED 上發表的演講《科技公司如何控制你的注意力》,將 Netflix 作為抨擊對象,還引用 Netflix CEO Reed Hastings 那段時間説過的一句話:「我們最大的對手是 Facebook, YouTube 和睡眠」。

不少人誤以為 Netflix 的競爭對手是網絡媒體,但他的競爭對手名單上有所有會瓜分人類注意力的事物。


這些科技公司之間的競爭,特里斯坦也給出了簡單的例子——YouTube 增加自動播放下一個視頻的功能,來提升用户停留的時間,Netflix 看到後也開始自動播放下一集,Facebook 發現後自動播放推送中的所有視頻,連用户按下播放鍵的片刻也要全數扼殺。


看似簡單的功能設計,背後有門不簡單的學問,名叫勸服性技術。特里斯坦恰好就是這方面的天才,在谷歌工作期間他就負責這一塊——名正言順地用技術結合心理學,去左右人們的想法。

我們今天不停刷微博、淘寶的「刷」這個動作,因為「對方正在輸入……」便在對話框內等待的行為,收到照片被圈、羣裏被 @ 之後會進入互動環節等等,都是被這羣工程師精心設計過的,用來競爭用户花在自家產品上的時間。


Netflix 明明知道自己也是被抨擊對象,卻在揭秘上不懈努力。先在 2019 年拍了《隱私大盜》,就 Facebook 干擾川普大選、脱歐投票等政治活動進行揭秘,再在 2020 年上了這部《智能陷阱》,賺了無數觀眾的 94 分鐘。

由科技公司主導、科技專家坐鎮(陣)的《智能陷阱》,也在説服力和可信度上,給了觀眾一顆定心丸。

▲《智能陷阱》中的部分受訪工程師

2. 世界上最值錢的是數據,石油被擠到第二位了

特里斯坦在 TED 演講的第一段描述非常硬核——他將屏幕那端比作控制室,裏面有一羣人在工作,如何去決定用户的思想和情感。《智能陷阱》則將這個如同存在於科幻片的房間,在影片裏面做了出來。


在科技大咖持續講解的同時,片子還虛構了一個受困於「智能陷阱」的家庭。其中名叫本的男孩還是一個學生,卻已經是 Facebook 的重度上癮者。他在屏幕那端,被工程師造出了一個仿若巫毒娃娃的模型。


看什麼東西,看了多久,看的速度,都會被記錄下來作為數據,打造越來越精準的模型。模型越精準,預判能力也會更優秀。預判能力用更通俗的話來解釋,就是越來越像肚子裏的蛔蟲那般懂你。


我們在生活中或多或少會埋汰,身邊親近的人不懂自己。反過來思考,為什麼這些平台可以這麼懂我們?答案很簡單,懂我們可以讓它們賺錢,甚至於單靠懂我們就可以賺錢。

引用最有錢的公司就是技術公司,Google Docs、Facebook、亞馬遜、Tesla。

這些公司成為世界上最有勢力的公司,是因為去年數據在價值上超越石油。

數據是地球上最寶貴的資產。這些公司很值錢,因為他們在剝削人們的資產。

——前劍橋分析的商業發展總監布瑞特妮·凱瑟(Brittany Kaiser)在紀錄片《隱私大盜》中的講述

▲《讓世界天翻地覆的數據》. 圖片來自:紀錄片《隱私大盜》(2019)

布瑞特妮曾經為參議員寫了一個用來質詢馬克·扎克伯格的問題:「Facebook 的收益有多少直接來自將用户的個人數據貨幣化?」一旁的朋友驚呼:「全都是」。

每到年末年初的時候,朋友圈分享的那些來自網易雲、豆瓣、支付寶等平台的年度報告,不正是明晃晃的證據嗎?


引用很多這種技術公司有三個主要目標。

有一個參與度目標,增加你的使用,讓你一直滑動屏幕。

有一個增長目標,讓你不斷回來,儘可能多地邀請朋友,讓他們再邀請更多的朋友。

還有一個廣告目標,確保一切按照預期發展。我們儘量多地從廣告上掙錢。

每一個目標都由一個算法驅動。算法的作用是找出,給你展示什麼,讓數據上漲。

——特里斯坦·哈里斯



3. 影片在個性化定製世界的摧毀中結束

有了很多很多的數據,將用户的性格剖析完畢,能夠預測用户的行為,如何換取商業價值?我們終於聊到最關鍵的一步:個性化定製。

個性化定製表面看上去是個褒義詞,像測量體型定製衣服一樣,量身定做了一個專屬於我們每個人的內容頁,根據我們的性格、喜好以及當下的需求,推送不同的信息。


維基百科就是一個反向的例子,百度百科也是一樣的道理。

引用當你打開一個維基百科網頁,你和別人看到的東西是一樣的。所以,這是網絡上少有的,我們統一共享的東西。

現在想象一下,維基百科説:「我們要給每一個人不同的個性化定義,有人給我們錢,讓我們這樣做。」維基百科就會監視你,會計算「我要做什麼,才能代表一些商業利益讓這個人產生一點改變?」對吧。

然後就會改變整個詞條。你能想象嗎?你應該能夠想象得到,因為在 Facebook 頁面上,就是這樣的。你的 YouTube 推送,就是這樣的。

——《立刻刪除你社交媒體的十個觀點》作者賈倫·拉尼爾(Jaron Lanier)

引用即便是兩個非常親近的朋友,他們兩個有着完全相同的朋友圈子,他們會認為「我們在臉書上的新推送上,會看到完全相同的信息」。但事實遠非如此,他們會看到完全不同的世界,因為這是基於計算機的計算,對每一個人來説,最完美的呈現。

——特里斯坦·哈里斯


反覆迭代升級後,會個性化呈現給每個人最完美的世界。這個世界裏,每一個人都認同你,在收到的推送消息中,每個人都跟你極其相似。讓你認同的完美世界,會在你放鬆警惕的時候,反過來影響你,以實現它的商業目標與價值。

因為這跟量體裁衣不一樣的是,我們沒有花錢,只是用户,而廣告商或者政客掏錢了,他們才是客户。客户才是社交媒體的「上帝」。


在片子裏面虛構的小家庭裏,媽媽想讓孩子們擺脱手機上癮的狀態,但都失敗了。

女孩艾拉砸碎鎖住手機的玻璃罐,拿到房間裏面自拍、修圖、等點贊。點贊太少便刪掉再拍、再修圖、再發布。漸漸地,她開始無法接受自己真實的模樣。


引用我們製作「點贊」按鈕的時候,我們全部的動機是「我們可以在世界中傳播積極和愛嗎?」

時間快進到當下,青少年會因為沒有得到足夠多的點贊而抑鬱。

這個想法或者或導致政治兩極分化,當時是完全無法想象的。

——前 Facebook、Google 工程師、Asana 聯合創始人 Justin Rosenstein

男孩本在放下手機的空虛三天後,重新沉迷到了社交網絡中。之後,他還被推送的陰謀論信息所影響,因為人工智能會為了吸引人注意不惜推送虛假消息,直至在抗議集會中被捕。


這個故事結束的方式也頗有深意。屏幕那端的控制室被銷燬了,「巫毒娃娃」被放了下來回到真實的狀態。


不禁聯想起電影《楚門的世界》,從出生便活在「直播」中的楚門,終於走出了「片場」這個虛構的世界。

▲ 電影《楚門的世界》(1998)

引用也許,我們與其對假想的未來中的人工智能感到擔心, 不如解決當下就存在的人工智能問題, 就是那些爭奪注意力的新聞推送。

解決這個問題 是解決其他問題的關鍵所在。 歸根到底,在一生中, 我們共同擁有的就是注意力和時間。 時間會被我們自己充分利用嗎?

——特里斯坦·哈里斯


在片子中,這些科技大咖對提出完全解決問題的方法也會搖頭、嘆氣,但他們對個人也給出了一些很有用的小建議:

  • 關閉通知或儘可能減少不必要的通知,卸載不必要且浪費時間的 app
  • 使用瀏覽器擴展程序阻止推薦,不在 YouTube 等平台接受推薦的視頻
  • 獲取具有不同觀點的信息來源,關注跟自己不同觀點的人
  • 分享、點贊或評論前,先核查信息的真實性
  •  為自己以及孩子規劃使用智能設備的時間
多虧了這羣走出來發聲的勇敢工程師,他們親手搭建了讓大家上癮的數據世界,也擔起自己的責任,離開那個世界,走到我們面前,讓大家都成為知情者。只有知悉問題,才能在不久的未來走出困境。


資料來源:愛範兒(ifanr)

如果喜歡我們的文章,請即分享到︰

標籤: Google  Instagram  Twitter  

留言

會員
我要評論
請按此登錄後留言。未成為會員? 立即註冊
    快捷鍵:←
    快捷鍵:→