科學家聯(lián)名反對美政府用AI“把守國門”通信
從事機器學習、數(shù)據(jù)挖掘以及其他自動化決策技術研究的54位科學家16日致信美國國土安全部，敦促該部門放棄“極端審查計劃”，稱利用人工智能（AI）對申請進入美國的人員進行審查評估，“既不合適也不可行”。
從事機器學習、數(shù)據(jù)挖掘以及其他自動化決策技術研究的54位科學家16日致信美國國土安全部，敦促該部門放棄“極端審查計劃”，稱利用人工智能（AI）對申請進入美國的人員進行審查評估，“既不合適也不可行”。
“極端審查計劃”是美國土安全部下屬機構移民和海關執(zhí)法局在今年6月提出的一項計劃，希望以自動化程序代替目前的人力審查手段，利用人工智能技術預測申請進入美國人員的犯罪風險，對其是否會對美國社會作出積極貢獻進行評估，以更好地執(zhí)行特朗普的移民政策。用先進技術解決現(xiàn)實難題，應該是科學家們最愿意看到之事，但此次，移民和海關執(zhí)法局的計劃卻遭到科學家們的強烈反對。
54位科學家在信中指出，“極端審查計劃”尋求通過自動化技術判定一個人是否會對社會作出積極貢獻、為國家利益作出貢獻，這是不可能的。目前無論是聯(lián)邦政府還是任何個人，都沒有對一個人是否會對社會作出貢獻、為國家利益作出貢獻進行定義和量化，這種情況下，不可能有任何計算方法能對此提供可靠或客觀的評估，移民和海關執(zhí)法局擬議的系統(tǒng)將是不準確的、存在偏見的，很容易對某個移民群體貼上標簽。
信中還指出，移民和海關執(zhí)法局希望能利用數(shù)據(jù)挖掘技術評估申請人進入美國之后實施犯罪或恐怖行為的可能性，而大量文獻表明，即使是最好的自主決策模型，在預測罕見事件時也會出現(xiàn)許多錯誤。移民中犯罪或進行恐怖襲擊者畢竟屬于少數(shù)，所以即使使用最精確的模型，也會出現(xiàn)大量謬斷，讓許多無辜的人蒙冤。
科學家們稱，數(shù)據(jù)挖掘是一個強大的工具，適當?shù)乩眠@一工具會有很大的好處，造福社會。他們理解政府需要執(zhí)行移民法律，維護國家安全，但移民和海關執(zhí)法局擬議的方法“既不合適也不可行”，因此強烈要求國土安全部放棄這一計劃。
1.TMT觀察網(wǎng)遵循行業(yè)規(guī)范，任何轉載的稿件都會明確標注作者和來源；
2.TMT觀察網(wǎng)的原創(chuàng)文章，請轉載時務必注明文章作者和"來源：TMT觀察網(wǎng)"，不尊重原創(chuàng)的行為TMT觀察網(wǎng)或將追究責任；
3.作者投稿可能會經(jīng)TMT觀察網(wǎng)編輯修改或補充。
