算法驅動的資訊類平臺為什么讓人討厭？觀點
在王者榮耀之后后，今日頭條也遭到了人民日報的點名。批評的重點是以今日頭條為代表的算法推薦資訊類平臺，存在價值觀缺失、制造信息繭房、競爭手段無底線的“三宗罪”。
在王者榮耀之后后，今日頭條也遭到了人民日報的點名。批評的重點是以今日頭條為代表的算法推薦資訊類平臺，存在價值觀缺失、制造信息繭房、競爭手段無底線的“三宗罪”。
總的來說，人民日報提出的這些問題還是非常客觀的。此前也有不少新聞業內人士反映過，低俗的信息會刺激人性中的陰暗面，吸引點擊量，在推薦算法的加持下，不知不覺我們的信息流上就全是婆婆小三、艷情野史。而得出的結論卻是，不是資訊平臺低俗，而是算法覺得你低俗。
“多數人的暴政”
這種情況被稱為“多數人的暴政”。
大多數人會被低俗內容吸引，所以創作者會創作更多的低俗內容，去除人工編輯把控的中間環節，算法只會根據你有意無意的點擊把那些低俗的內容推上信息流。
這樣的現象不僅僅出現在中國，此前Facebook也深受各種驚悚標題黨的困擾。不過外國人的腦回路是很清奇的，Facebook推出了一項用戶決策機制，如果讀過之后感覺內容和標題嚴重不符，可以將其標注為假新聞，這樣就會降低這條消息的推薦權重。
尷尬的是，很多用戶會依照個人喜好隨意標注，甚至會因政治傾向對某一派別的新聞進行惡意標注。最后Facebook不得已還是采用了算法進行判斷——用機器學習對以往的標題黨標題進行總結，對相似標題的文章進行降權。就是“喂給”算法一批諸如“震驚了！”、“真相是這樣！刪前速看！”的標題，算法學會后，就會對類似標題的文章進行降權。
實際上“夸張的標題”、“假新聞”、“低俗內容”之間往往只有一線之隔，把決策權交給用戶是一項非常冒險的行為。不管是算法還是用戶投票，只要是在去編輯體制的平臺上，“多數人的暴政”都會出現。
完全依賴用戶抉擇，平臺會被視作沒有責任感、不作為；可如果平臺參與決策，又很可能破壞“算法推薦”這一原有的特色。這樣的矛盾，不管是Facebook還是今日頭條都正在經歷，但對于國內用戶來說，不適感來得要更強烈一些。
在App冷啟動時，用戶都會選擇好自己的興趣標簽。可打開信息流，還是會有一些低俗夸張的內容出現，甚至在選擇了“不感興趣”后，劃過幾屏類似的信息還是會出現。要不就像新聞中說的那樣，隨手點開了一條低俗信息，立刻有大量類似的信息涌入。
雖然幾乎沒有公開談過其推薦算法都取決于哪些權值，但我們可以從目前主流的推薦算法中看看，今日頭條們可能錯在了哪里。
如果你的信息流不對勁，可能是因為……
在推薦算法中，最常見的就是協同過濾算法。資訊類產品常常會使用基于用戶的協同過濾算法，即利用K鄰近算法，找到和你興趣相近的用戶，并把對方的喜好推薦給你。比如A、B兩個用戶都對時政、軍事類的資訊感興趣，而A用戶也對歷史類資訊感興趣，那么系統就會給B用戶推薦歷史類資訊。
這種基于用戶行為的推薦機制，在豆瓣一類更個性化的、社交屬性更強的平臺上更為精準。可今日頭條這類資訊平臺中，用戶群體更加繁雜，用戶行為往往也都是無目的性的——在豆瓣中標記某一部電影可能是為了告訴大家“我是看這種電影的人”，而在今日頭條中點擊一條新聞往往只是因為“想看看”。
這無疑給協同過濾算法的精確度帶來很大挑戰，用戶本身的屬性就是模糊的，如果你的信息流中不斷出現一些你不感興趣的東西，很有可能是平臺利用了這種算法，為你推薦了相似用戶的喜好。
不過資訊類平臺利用最多的還是基于內容的推薦算法。如果說用戶協同算法關注的是人與人之間的相似度，那基于內容的推薦算法關注的則是內容本身。
還是以電影為例，一部電影可以細分出影片類型、年代、演員、導演等等多種元素。用戶標注了某一部電影，算法就會為他推薦同一導演的作品。這樣的推薦模式大多被適用于識別結構化數據——算法并不知道文章、影片中到底說了什么，只能根據結構化數據標注判斷。
這就是為什么大多數資訊類平臺都存在標簽和關鍵詞機制，算法要通過這些結構化標注對內容進行判斷，再推薦給用戶。
這其中最大的問題，就是關鍵詞機制的不準確。我曾經在某平臺上標注了興趣“寵物”，本意是希望看到一些可愛的貓貓狗狗，然而某一天該平臺居然給我推薦了一段斗狗視頻，視頻下面居然也有寵物的標注。
資訊類平臺中的內容越來越豐富，短消息、圖文、問答都有。而關鍵詞標注只能對內容進行浮于表面的理解，而內容中暗含的情緒往往會冒犯到用戶。而在流量的誘惑下，很多創作者會更傾向于生產具有刺激性情緒的內容。
斗狗、職場性騷擾、歷史艷情，這些內容本身似乎也是合規的，但其中暗藏的暴力、歧視、色情等等情緒，被掩蓋在寵物、職場、歷史等等標簽下，堂而皇之大哭污染著我們的信息流。
那么出路在哪？
我們想知道的是，除了加強平臺對低俗內容的監管，是否還能從技術方面解決當前的問題。
其實相關的研究結果已經很多，比如谷歌推出的云端自然語言分類功能，可以通過語言分析情緒。據稱這項功能在分析了報紙的某一版面后，自動將其中一篇菜譜歸入了美食欄目，還添加了具體的標簽。而且谷歌云的自然語言API還可以識別情緒，了解文章內容是積極的還是消極的。
更詳細的分類和情緒識別，可以很好的解決上文提到的關鍵詞機制不精準問題。而人民日報在文章中提到的，用戶興趣變化的問題在業內也有過相關討論。有人提出過將用戶停留時間和內容相似度兩種數據權重加入到協同過濾算法中，以用戶在不同內容上停留的不同時間，來判斷用戶的興趣是否發生了變化，從而確定推薦內容的權重。
其實不管是谷歌的云端自然語言分類這種高成本的解決方式，還是調整原有算法這種更簡單易行的方式，用技術解決推薦算法的局限沒有想象中那么難，甚至對于低俗的內容，都已經出現了“人工智能鑒黃”這種神器。
推薦算法是一種歷史悠久的技術，發展到今天，電商、廣告的推薦越來越精準，資訊的推薦算法卻惹得天怒人怨，要是把鍋甩到算法上，恐怕有些不公。
有人說算法呈現出的結果是人性本質的體現，可從當下看來，算法呈現出的更多是平臺、內容創作者這些利益既得者的人性。作為一個天天研究算法的普通內容消費者，我倒是覺得，越了解算法，就越不懂人性。
1.TMT觀察網遵循行業規范，任何轉載的稿件都會明確標注作者和來源；
2.TMT觀察網的原創文章，請轉載時務必注明文章作者和"來源：TMT觀察網"，不尊重原創的行為TMT觀察網或將追究責任；
3.作者投稿可能會經TMT觀察網編輯修改或補充。
