別死！Facebook利用AI拯救自殺傾向的用戶智能
這樣的廣告看似提供了求助的來源，但如果是一個會搜索自殺相關信息的用戶，決心求死的人看到這樣的小彈窗廣告對于他來說應該只是多一步關閉的動作吧。Facebook運用AI拯救自殺用戶所做出的努力是…
根據世衛組織報道，全球每 40 秒鐘就有人嘗試自殺；在 15 到 29 歲的青少年人群中，自殺已經成為第二大致死原因。 而社交媒體中產生的網絡暴力及網絡壓力也在消磨用戶的時間甚至是他們的聲明。 作為全球最大社交網站，Facebook 的「自殺預防」方案可能會為更多想不開的人提供急需的幫助。
近日，Facebook 在公司博客宣布，將在全球推廣其「主動識別」技術，用來辨別有自殺傾向的用戶，并在第一時間為后者提供幫助。截至目前，急救人員已經根據 Facebook 的監測，接觸有自殺傾向的用戶超過百次。
用 AI 掃描自殺傾向
根據官方博客介紹，Facebook 采用主動檢測技術，掃描用戶在 Facebook 上的文字和圖片信息，用來分析用戶是否符合「自殺傾向」的模式。雖然 Facebook 并沒有透露軟件如何定義什么樣的信息會被判定為「自殺傾向」，但是其頁面中如果有「你還好嗎？」、「我能幫助你嗎？」之類的短語，將會讓用戶成為工作人員的「重點照顧對象」。
當 Facebook 的系統認為用戶有自殺傾向時，會向負責審核內容的工作人員發送報告，相對于上傳到網站的暴力或者裸體內容，「自殺」類報告將獲得更高的優先級，提醒工作人員進行優先處理。工作人員會根據情況采取不同措施：直接聯系用戶、聯系用戶的相關親朋好友、盡快通知當地急救人員。
目前，「自殺檢測」功能已經在美國進行了幾個月的試驗，根據 Facebook 的報告，急救人員已經接觸了相關用戶超過 100 次。在博文中，Facebook 產品管理副總 Guy Rosen 稱「拯救自殺傾向人士最重要的就是速度」，自動檢測功能可以提高「自殺傾向人士」獲救的速度。
Facebook視頻直播端的幫助頁面（圖片來源：Facebook）
7500 人的審核團隊
去年 Facebook 開始試水視頻直播功能，在提高網站各項數據同時，也遇到了巨大挑戰——相繼有網友通過 Facebook 視頻直播自殺甚至謀殺行為。由于這些事件往往實時發生，較難進行控制，而相關事件對于 Facebook 品牌則產生巨大負面作用。為了控制類似事件，今年 3 月 Facebook 推出了針對「自殺直播」用戶的特殊工具。
當看到有人正在做有「自殺傾向」直播時，用戶可以將情況報告給 Facebook，在報告頁面有不同選項，可以為用戶提供救助方式、急救熱線或者聯系其他好友等方法。「自殺傾向」用戶直播的頁面也會出現「聯系好友/家人」和「求助熱線」等選項。為什么 Facebook 不直接關閉自殺者的直播？答案是，關閉直播反而切斷了自殺者的求助之路，很多自殺者渴求更多的是親朋好友的關心，相比之下前者帶來的危險性更大。
Facebook 也為此加強了隊伍建設，在原本的 4500 名審核人員基礎上，多加了 3000 名新生力量，Facebook 稱其為「社區幫助」（Community Help）。為了能讓當地急救人員第一時間救助相關人士，Facebook 嘗試讓這些全球「社區幫助」工作人員能用當地語言聯系急救人員。
不大不小的問題
今年 7 月，Facebook 的月活突破 20 億大關，要實時對用戶上傳的海量數據進行審核，實在不是一件容易的事。用 AI 技術來預測人們的自殺傾向并提供幫助，是非常有意義的事，但同時也觸動了用戶在隱私方面的神經——如果 Facebook 能掃描并推斷用戶是否有自殺傾向，那么這個「老大哥」還能推斷出什么其他信息？此前，Facebook 曾經推出過相關審核功能，當檢測到涉及兒童色情等對話內容時，Facebook 會通知相關機構進行處理。
當被問到用戶能否選擇拒絕「自殺傾向」的掃描時，Facebook 給予了否定的答案——這可能是為什么 Facebook 不能將這項服務推向歐洲市場，因為后者在用戶隱私方面有十分嚴格的政策。
Facebook 并不是唯一一家向有自殺傾向人士提供幫助的互聯網公司，搜索巨頭谷歌就在用戶搜索自殺相關詞匯時，會在頁面顯示求助熱線。相對于 Facebook 的主動掃描，谷歌的被動式呈現顯得比較低調。畢竟，投向用戶的關切凝視，如果處理不當，也可能變成可怖的監視。
網站上出現的Google廣告
P.S. 由于用 Google 搜索了和自殺（Suicide）相關的信息，結果現在記者瀏覽網站的頁面馬上出現了線上心理治療課程的廣告：如果你正在掙扎之中，可以考慮報一個XXX牌線上心理治療課程，你值得擁有。
99VR視界君：這樣的廣告看似提供了求助的來源，但如果是一個會搜索自殺相關信息的用戶，決心求死的人看到這樣的小彈窗廣告對于他來說應該只是多一步關閉的動作吧。Facebook運用AI拯救自殺用戶所做出的努力是很值得贊賞的，希望通過這樣的拯救措施能挽救更多一時想不開的人的生命。
來源：99VR視界
1.TMT觀察網遵循行業規范，任何轉載的稿件都會明確標注作者和來源；
2.TMT觀察網的原創文章，請轉載時務必注明文章作者和"來源：TMT觀察網"，不尊重原創的行為TMT觀察網或將追究責任；
3.作者投稿可能會經TMT觀察網編輯修改或補充。
