[摘譯] 亞馬遜如何用演算式策展打造反烏托邦書店

Jiajun Xu 發表於 週五, 04/19/2019 - 02:03

在蒐集去中心化網路的資料時,遇到一個名詞:"curation algorithms",這姑且可翻譯成「策展演算法」,也就是用演算法來決定用戶看到、不看到和優先看到哪些內容。查著查著就翻到 Wired 這篇:〈How Amazon's Algorithms Curated a Dystopian Bookstore〉,描述了電商如何用演算法操弄人心,有心人又如何去操弄演算法,非常有趣,便摘譯了幾段:

文章開頭舉了兩個有關醫療保健的案例,說明演算法如何被有心人操弄,激化對立、使邊緣意見搖身成為主流,甚至協助散佈假新聞,對公眾造成重大危害。

第一個例子關於接種疫苗爭議:如果你在 Amazon 搜尋「疫苗」(vaccine),從兒科急診(Emergency Pediatrics )、到醫學史、再到化學,這麼多項分類的第一暢銷書,都被反疫苗論述所佔據。在搜尋結果的第一頁裡面,只出現了一本親疫苗立場的書籍,排名第 12,該書的標題非常直白:《Vaccines Did Not Cause Rachel’s Autism》(疫苗沒有導致 Rachel 的自閉症);相較於反疫苗書籍那些來路不明的作者,本書作者是真正的兒科醫師、醫學教授,卻自出版以來,一直被負評瘋狂洗版。

第二個例子是關於癌症與另類療法:在 Amazon 的「腫瘤科」(Oncology)分類中,一本帶有暢銷書標籤的書,建議用果汁作為另類療法來取代化療。整體而言,「癌症」一詞,協同審查似乎確保了「關於癌症的真相」,也就是包括在政府陰謀的主張大雜燴,享有 1,684 條評論,並登上首頁。高達 96% 的評論是 5 顆星——這是許多 Amazon 客戶用來衡量品質的標準。然而,只要瞄一眼 Reviewmeta 這個協助客戶評估評論是否合理的網站,就會發現超過 1,000 條評論在時間範圍、語言和評論行為方面可能存在疑慮。(其實這段的原文我不是完全懂)

在內容過剩的時代,演算式策展(Curation algorithms)幫助我們過濾內容,從閱讀、購物、到挑選餐館和醫生,當然還包括社交。在社交網路上,演算法主要用於推動參與;在 Amazon,它們的目的則是推動購買。Amazon 在每個產品頁面上都有各式各樣的推薦引擎:

  • 「顧客也買了…」(customers also shopped for)的建議,不同於「購買此商品的顧客也購買…」(customers who bought this item also bought)
  • 也有「贊助」(sponsored)產品,這基本上是廣告;
  • 「經常一起購買」(frequently bought together)這一功能可以跨類別鏈接產品(這通常很有幫助,但偶爾會有點令人不安);
  • 如果您設法在不購買任何東西的情況下離開平台,Amazon 可能會於隔日發送電子郵件,推薦更多產品。

Amozon 塑造了我們的消費習慣,每天影響著上百萬人瀏覽和消費的內容。不幸的是,許多演算式策展能夠以可預測的方式被操弄,尤其當熱門度(popularity)是關鍵因素的時候。有時賣家會直接花錢去「洗評論」,或是用其他方式鼓勵虛假評論;這違反了 Amazon 的服務條款,但執法不嚴。而就如同反疫苗運動或某些另類健康社群的作法,某些特定議題的大量狂信者(true believers),會聯手把喜歡的內容「洗」到搜尋結果的第一頁去。

我們越來越依賴演算式策展,但演算式策展在很大程度上是不道德的。它們旨在向我們展示我們在統計上可能想要看到的東西、以及與我們相似的人所發現的內容——即使是那些真實性有疑慮、甚至可能有害的內容。

標籤 (Tags)