當(dāng)AI開始保護她互聯(lián)網(wǎng)+
導(dǎo)讀
AI正在保護她，并且還可以保護他們。
AI正在保護她，并且還可以保護他們。
AI與女性之間的關(guān)系，似乎一直不太好。
提到AI，我們看到的往往是“AI篩選簡歷帶有性別歧視，更偏向于男性員工”“AI取代秘書、翻譯和速記正在讓女性失業(yè)”“一切AI助理都是女性配音加重男權(quán)主義”……
AI作為人類智慧與經(jīng)驗的高度結(jié)晶，同樣也繼承了人類社會文化中糟粕的部分，并且會毫無遮掩展示出來。
但今天我們要講的這個故事，是關(guān)于AI如何保護女性遠離網(wǎng)絡(luò)暴力。
女記者、女政治家和女權(quán)活動家 的共同罪過
你遭受過網(wǎng)絡(luò)暴力嗎？
對于大多數(shù)人來說，網(wǎng)絡(luò)暴力離我們很遠。但即使在某一次莫名為微博噴子騷擾時，男性和女性也一定會有不同的體驗。對于男性來說，遭到的辱罵通常是“傻X”一類的常規(guī)詞匯，或者是對家人的“問候”。而對于女性來說，往往會遭受到對自己身材、外貌的攻擊，以及性方面的騷擾。
在大赦國際的調(diào)查中發(fā)現(xiàn)，這種情況非常普遍，并且在Twitter這樣的公共話語空間中已經(jīng)上升到了危害女性人權(quán)的程度。
今年以來，大赦國際陸續(xù)推出了長達八章的調(diào)查報告，講述普通女性、女記者、女政治家是如何因為自己的女性身份而在Twitter中飽受噴子們的侮辱的。而篇調(diào)查報告的名稱就是《Toxic Twitter》——有毒的推特。
我們可以摘幾組調(diào)查報告中出現(xiàn)的數(shù)據(jù)：
“2017年全年，有110萬條辱罵性的推文被發(fā)給了778名女記者和政治家。”
“在發(fā)送給女性的推文中，有7.1%都涉及到攻擊和辱罵。”
“在辱罵女性的推文中，提及黑人女性推文的比率比白人女性高84%。”
而那些辱罵女性推文的大概內(nèi)容又是什么呢？
有這樣的：
還有這樣的：
如圖所示，一切的辱罵和威脅，總與性有關(guān)，時時刻刻強調(diào)著女性身份的弱勢之處。
在調(diào)查時，女政治家和記者也表示，因為性別而遭受到的攻擊，是她們職業(yè)路上非常重要的困難和障礙。當(dāng)男性遭到攻擊時，被攻擊的是他的行為和他的工作成果。可當(dāng)女性遭受到攻擊時，噴子們總會瞄準她們的性別。
仿佛生而為女人，應(yīng)當(dāng)抱歉。
算法除了推動流量涌動， 還推動了什么？
而這一切中有Twitter哪些責(zé)任呢？
從基本上而言，Twitter沒有足夠強大的敏感詞審核和過濾機制，不能從源頭控制這些辱罵性的語言。
最主要的是，Twitter算法的向智能推薦方向調(diào)整后，原本相對封閉的關(guān)注體系變得更加開放了。在過去那些女政治家、女記者和普通女性的賬號以及推文內(nèi)容只會顯示在關(guān)注者的Timeline上。但信息流變得更加開放后，更大的流量同樣也帶來了黑子和極端性別主義者——同樣這些辱罵女性的推文雖然來自普通人，但在全新的算法機制下，即使他們沒有什么關(guān)注者，也會獲得不少曝光。一方面加重了語言傷害的能量，另一方面也讓那些黑子可以更方便地找到彼此，形成組織對女性進行攻擊。
大赦國際也表示，他們已經(jīng)數(shù)次向Twitter反映了這些問題，卻一直沒有得到滿意的答復(fù)。
其實在這件事上，Twitter顯得有些無辜。畢竟算法調(diào)整增強了各個圈層的互相了解，本意上是好的。我們也知道，通過人工智能識別出侮辱性詞匯，尤其是針對性別的侮辱性詞匯并不是那么容易。就像“if she was raped,would she keep her mouth shut？”（如果強奸了她，她能夠閉上嘴嗎？）這句話從詞匯上看來并沒有什么不對，但是聯(lián)合語境看來卻是在用非常暴力的性犯罪來威脅女性停止發(fā)聲。
但算法造成問題，還要算法來解決。
當(dāng)AI被把握在女性手中
AI不能理解語境嗎？顯然不是，大量涉及到長本文語義理解的算法就是干這個的。只不過面對性別侮辱這類相對復(fù)雜的語境，需要大量的訓(xùn)練樣本和反復(fù)調(diào)試。
當(dāng)?shù)貌坏絋witter的支持時，大赦國際做了兩件事：
第一是找了6500位志愿者，在推特上分別尋找收集那些侮辱女性的言論和正常言論，作為標注數(shù)據(jù)累積，建立起了全世界最大的“仇女言論”數(shù)據(jù)集。
第二是找到Element AI，一家提供AI既服務(wù)的創(chuàng)業(yè)企業(yè)，利用數(shù)據(jù)進行訓(xùn)練和分析，最終得出了上述完整的數(shù)據(jù)，并且訓(xùn)練出了一個可以判斷女性侮辱言論的神經(jīng)網(wǎng)絡(luò)模型。大赦國際在報告中提出，目前這一模型的準確度已經(jīng)達到了50%，并且還在不斷提高中。
當(dāng)然最后的結(jié)局沒有人們想象中那么美好，Twitter并沒有直接采用模型，借此保護平臺上的女性用戶。但通過這兩件事，大赦國際明確了自己的需求，給Twitter提了很多富有價值的意見，例如Twitter應(yīng)該改進舉報機制，讓關(guān)于女性侮辱的舉報可以得到更多重視；Twitter應(yīng)該更加清晰的解釋平臺過濾算法如何運行，如何識別那些針對女性的語言暴力；Twitter應(yīng)該加強對女性用戶的教育，提醒她們?nèi)绾伪Ｗo自己；更重要的是，Twitter應(yīng)該更多的公開相關(guān)數(shù)據(jù)，讓更多人知道女性正在社交媒體上承受著更多壓力。
打破技術(shù)即權(quán)力： 保護她和他們的AI
這件事情其實帶來了一個非常有趣的思考：當(dāng)AI發(fā)展的愈發(fā)成熟，技術(shù)即權(quán)力的魔咒是不是正在被默默打破？
女性如今之所以處在一個讓她們略感不適的地位之中，很大一部分原因在于對技術(shù)的掌控不如男性，所以她們不能創(chuàng)造和男性一樣多的價值。千百年前女性不知道如何開墾更多土地種植糧食；幾十年前女性不知道如何使用電腦；到今年女性不知道Twitter的算法為什么不能過濾掉那些仇恨言論。
而隨著科技的發(fā)展，阻礙女性獲取技術(shù)的門檻正在逐漸被磨平。從生理結(jié)構(gòu)上天然的體力差別，到社會和家庭身份對于時間的占用，直到今天。
我們發(fā)現(xiàn)，號召志愿者收集數(shù)據(jù)，加上一家愿意幫忙的AI服務(wù)企業(yè)，女性可以輕易打破Twitter的“男權(quán)謊言”——你說算法做不到？她們就去證明算法可以做到。
當(dāng)AI模型的開發(fā)越來越走向低門檻，當(dāng)谷歌和百度都在推出小孩子都能使用的模型訓(xùn)練平臺，這便意味著（綜合來看）開發(fā)經(jīng)驗更少的女性群體也可以創(chuàng)造和利用AI的技術(shù)能力。
這也是AI作為工具而言最重要的價值，將以往高密度的經(jīng)驗與智慧集成為人人可以利用的算法，讓馬路殺手像老司機一樣行駛在路上，讓分不清PS和Photoshop的人也能拍出好照片。如今對于算法開發(fā)過程的簡易化，更加提升了AI的工具價值。讓我們感到欣慰的，不僅僅是女性開始利用AI的力量保護自己、為自己發(fā)聲，而是大赦國際的成功是可以復(fù)制的，除了那些在社交媒體上被辱罵的女性，其他的弱勢群體其實也可以利用類似的方式發(fā)出聲響和自我拯救。
AI正在保護她，并且還可以保護他們。
提到AI，我們看到的往往是“AI篩選簡歷帶有性別歧視，更偏向于男性員工”“AI取代秘書、翻譯和速記正在讓女性失業(yè)”“一切AI助理都是女性配音加重男權(quán)主義”……
AI作為人類智慧與經(jīng)驗的高度結(jié)晶，同樣也繼承了人類社會文化中糟粕的部分，并且會毫無遮掩展示出來。
但今天我們要講的這個故事，是關(guān)于AI如何保護女性遠離網(wǎng)絡(luò)暴力。
女記者、女政治家和女權(quán)活動家 的共同罪過
你遭受過網(wǎng)絡(luò)暴力嗎？
對于大多數(shù)人來說，網(wǎng)絡(luò)暴力離我們很遠。但即使在某一次莫名為微博噴子騷擾時，男性和女性也一定會有不同的體驗。對于男性來說，遭到的辱罵通常是“傻X”一類的常規(guī)詞匯，或者是對家人的“問候”。而對于女性來說，往往會遭受到對自己身材、外貌的攻擊，以及性方面的騷擾。
在大赦國際的調(diào)查中發(fā)現(xiàn)，這種情況非常普遍，并且在Twitter這樣的公共話語空間中已經(jīng)上升到了危害女性人權(quán)的程度。
今年以來，大赦國際陸續(xù)推出了長達八章的調(diào)查報告，講述普通女性、女記者、女政治家是如何因為自己的女性身份而在Twitter中飽受噴子們的侮辱的。而篇調(diào)查報告的名稱就是《Toxic Twitter》——有毒的推特。
我們可以摘幾組調(diào)查報告中出現(xiàn)的數(shù)據(jù)：
“2017年全年，有110萬條辱罵性的推文被發(fā)給了778名女記者和政治家。”
“在發(fā)送給女性的推文中，有7.1%都涉及到攻擊和辱罵。”
“在辱罵女性的推文中，提及黑人女性推文的比率比白人女性高84%。”
而那些辱罵女性推文的大概內(nèi)容又是什么呢？
有這樣的：
還有這樣的：
如圖所示，一切的辱罵和威脅，總與性有關(guān)，時時刻刻強調(diào)著女性身份的弱勢之處。
在調(diào)查時，女政治家和記者也表示，因為性別而遭受到的攻擊，是她們職業(yè)路上非常重要的困難和障礙。當(dāng)男性遭到攻擊時，被攻擊的是他的行為和他的工作成果。可當(dāng)女性遭受到攻擊時，噴子們總會瞄準她們的性別。
仿佛生而為女人，應(yīng)當(dāng)抱歉。
算法除了推動流量涌動， 還推動了什么？
而這一切中有Twitter哪些責(zé)任呢？
從基本上而言，Twitter沒有足夠強大的敏感詞審核和過濾機制，不能從源頭控制這些辱罵性的語言。
最主要的是，Twitter算法的向智能推薦方向調(diào)整后，原本相對封閉的關(guān)注體系變得更加開放了。在過去那些女政治家、女記者和普通女性的賬號以及推文內(nèi)容只會顯示在關(guān)注者的Timeline上。但信息流變得更加開放后，更大的流量同樣也帶來了黑子和極端性別主義者——同樣這些辱罵女性的推文雖然來自普通人，但在全新的算法機制下，即使他們沒有什么關(guān)注者，也會獲得不少曝光。一方面加重了語言傷害的能量，另一方面也讓那些黑子可以更方便地找到彼此，形成組織對女性進行攻擊。
大赦國際也表示，他們已經(jīng)數(shù)次向Twitter反映了這些問題，卻一直沒有得到滿意的答復(fù)。
其實在這件事上，Twitter顯得有些無辜。畢竟算法調(diào)整增強了各個圈層的互相了解，本意上是好的。我們也知道，通過人工智能識別出侮辱性詞匯，尤其是針對性別的侮辱性詞匯并不是那么容易。就像“if she was raped,would she keep her mouth shut？”（如果強奸了她，她能夠閉上嘴嗎？）這句話從詞匯上看來并沒有什么不對，但是聯(lián)合語境看來卻是在用非常暴力的性犯罪來威脅女性停止發(fā)聲。
但算法造成問題，還要算法來解決。
當(dāng)AI被把握在女性手中
AI不能理解語境嗎？顯然不是，大量涉及到長本文語義理解的算法就是干這個的。只不過面對性別侮辱這類相對復(fù)雜的語境，需要大量的訓(xùn)練樣本和反復(fù)調(diào)試。
當(dāng)?shù)貌坏絋witter的支持時，大赦國際做了兩件事：
第一是找了6500位志愿者，在推特上分別尋找收集那些侮辱女性的言論和正常言論，作為標注數(shù)據(jù)累積，建立起了全世界最大的“仇女言論”數(shù)據(jù)集。
第二是找到Element AI，一家提供AI既服務(wù)的創(chuàng)業(yè)企業(yè)，利用數(shù)據(jù)進行訓(xùn)練和分析，最終得出了上述完整的數(shù)據(jù)，并且訓(xùn)練出了一個可以判斷女性侮辱言論的神經(jīng)網(wǎng)絡(luò)模型。大赦國際在報告中提出，目前這一模型的準確度已經(jīng)達到了50%，并且還在不斷提高中。
當(dāng)然最后的結(jié)局沒有人們想象中那么美好，Twitter并沒有直接采用模型，借此保護平臺上的女性用戶。但通過這兩件事，大赦國際明確了自己的需求，給Twitter提了很多富有價值的意見，例如Twitter應(yīng)該改進舉報機制，讓關(guān)于女性侮辱的舉報可以得到更多重視；Twitter應(yīng)該更加清晰的解釋平臺過濾算法如何運行，如何識別那些針對女性的語言暴力；Twitter應(yīng)該加強對女性用戶的教育，提醒她們?nèi)绾伪Ｗo自己；更重要的是，Twitter應(yīng)該更多的公開相關(guān)數(shù)據(jù)，讓更多人知道女性正在社交媒體上承受著更多壓力。
打破技術(shù)即權(quán)力： 保護她和他們的AI
這件事情其實帶來了一個非常有趣的思考：當(dāng)AI發(fā)展的愈發(fā)成熟，技術(shù)即權(quán)力的魔咒是不是正在被默默打破？
女性如今之所以處在一個讓她們略感不適的地位之中，很大一部分原因在于對技術(shù)的掌控不如男性，所以她們不能創(chuàng)造和男性一樣多的價值。千百年前女性不知道如何開墾更多土地種植糧食；幾十年前女性不知道如何使用電腦；到今年女性不知道Twitter的算法為什么不能過濾掉那些仇恨言論。
而隨著科技的發(fā)展，阻礙女性獲取技術(shù)的門檻正在逐漸被磨平。從生理結(jié)構(gòu)上天然的體力差別，到社會和家庭身份對于時間的占用，直到今天。
我們發(fā)現(xiàn)，號召志愿者收集數(shù)據(jù)，加上一家愿意幫忙的AI服務(wù)企業(yè)，女性可以輕易打破Twitter的“男權(quán)謊言”——你說算法做不到？她們就去證明算法可以做到。
當(dāng)AI模型的開發(fā)越來越走向低門檻，當(dāng)谷歌和百度都在推出小孩子都能使用的模型訓(xùn)練平臺，這便意味著（綜合來看）開發(fā)經(jīng)驗更少的女性群體也可以創(chuàng)造和利用AI的技術(shù)能力。
這也是AI作為工具而言最重要的價值，將以往高密度的經(jīng)驗與智慧集成為人人可以利用的算法，讓馬路殺手像老司機一樣行駛在路上，讓分不清PS和Photoshop的人也能拍出好照片。如今對于算法開發(fā)過程的簡易化，更加提升了AI的工具價值。讓我們感到欣慰的，不僅僅是女性開始利用AI的力量保護自己、為自己發(fā)聲，而是大赦國際的成功是可以復(fù)制的，除了那些在社交媒體上被辱罵的女性，其他的弱勢群體其實也可以利用類似的方式發(fā)出聲響和自我拯救。
AI正在保護她，并且還可以保護他們。
1.TMT觀察網(wǎng)遵循行業(yè)規(guī)范，任何轉(zhuǎn)載的稿件都會明確標注作者和來源；
2.TMT觀察網(wǎng)的原創(chuàng)文章，請轉(zhuǎn)載時務(wù)必注明文章作者和"來源：TMT觀察網(wǎng)"，不尊重原創(chuàng)的行為TMT觀察網(wǎng)或?qū)⒆肪控?zé)任；
3.作者投稿可能會經(jīng)TMT觀察網(wǎng)編輯修改或補充。
