警惕算法歧視！人工智能怎么區(qū)分對(duì)與錯(cuò)？觀點(diǎn)
日前，2017世界機(jī)器人大會(huì)在京閉幕。其中最吸引觀眾眼球的是為期5天的機(jī)器人博覽會(huì)，各類(lèi)智能機(jī)器人讓人大開(kāi)眼界?！伴L(zhǎng)了”53根手指的鋼琴機(jī)器人，可以精準(zhǔn)地演奏任何通過(guò)軟件輸入系統(tǒng)的曲譜，…
怎樣提升人工智能的“道德水平”
日前，2017世界機(jī)器人大會(huì)在京閉幕。其中最吸引觀眾眼球的是為期5天的機(jī)器人博覽會(huì)，各類(lèi)智能機(jī)器人讓人大開(kāi)眼界?！伴L(zhǎng)了”53根手指的鋼琴機(jī)器人，可以精準(zhǔn)地演奏任何通過(guò)軟件輸入系統(tǒng)的曲譜，彈奏能力超越人類(lèi)極限；身形小巧圓潤(rùn)、會(huì)走路能交談的NAO機(jī)器人一亮相，讓人不禁想到電影《機(jī)器管家》里智慧深情的機(jī)器人安德魯；還有可“走”進(jìn)人體、為人類(lèi)做手術(shù)的達(dá)芬奇機(jī)器人……
然而，就在2017世界機(jī)器人大會(huì)開(kāi)幕前兩天，埃隆·馬斯克等116名全球人工智能和機(jī)器人公司創(chuàng)始人發(fā)布聯(lián)名公開(kāi)信，呼吁聯(lián)合國(guó)采取行動(dòng)禁止“殺手機(jī)器人”擴(kuò)散。公開(kāi)信指出：“人工智能武器一旦發(fā)展起來(lái)，會(huì)令武裝沖突的激烈程度躍升到前所未有的層級(jí)，而且會(huì)以人類(lèi)難以想象的速度進(jìn)化?！?/p>
從前后兩則新聞的內(nèi)容不難看出，人工智能具有雙面性。新一代人工智能的崛起，在給人類(lèi)帶來(lái)驚喜和更高生產(chǎn)力的同時(shí)，也引發(fā)了不少擔(dān)憂(yōu)。什么樣的人工智能是人類(lèi)需要的？如何避免人工智能挑戰(zhàn)人類(lèi)安全或社會(huì)倫理道德？記者就此進(jìn)行了采訪。
人工智能怎么區(qū)分“對(duì)”與“錯(cuò)”
人工智能早已在金融、醫(yī)療、廣告、軍事等領(lǐng)域被廣泛應(yīng)用，引發(fā)人們對(duì)人工智能討論與擔(dān)憂(yōu)的導(dǎo)火索，是自動(dòng)駕駛汽車(chē)的面世。
當(dāng)一輛自動(dòng)駕駛汽車(chē)行駛在馬路上，它需要根據(jù)實(shí)時(shí)路況，自主作出決策。紅燈停、綠燈行，黃燈亮了等一等，看到行人還要讓行。如果這些技術(shù)性動(dòng)作都能夠做到，那當(dāng)它遇到類(lèi)似“電車(chē)?yán)Ь场钡那榫埃瑫?huì)如何選擇呢？
設(shè)想一下，有五位行人突然出現(xiàn)在一輛急駛的自動(dòng)駕駛汽車(chē)前面，在來(lái)不及剎車(chē)的情況下，自動(dòng)駕駛汽車(chē)可以沿著既定路線(xiàn)行駛，這樣可能會(huì)撞死這五名行人；它也可以臨時(shí)轉(zhuǎn)向，但會(huì)撞上旁邊的綠化帶，這樣可能會(huì)讓它的乘客喪命。此刻，這輛汽車(chē)該如何抉擇？
中國(guó)社科院哲學(xué)所研究員段偉文指出，新一代人工智能是以大數(shù)據(jù)為驅(qū)動(dòng)，其核心是算法。自動(dòng)駕駛汽車(chē)在行駛中的每一個(gè)決策，都是通過(guò)算法設(shè)定好的。數(shù)據(jù)和算法并非完全客觀，數(shù)據(jù)的采集、標(biāo)注和算法的設(shè)計(jì)往往負(fù)載著價(jià)值。因此，數(shù)據(jù)解讀中的價(jià)值取向和算法設(shè)計(jì)中的倫理考量，是決定人工智能區(qū)分道德上“對(duì)”與“錯(cuò)”的關(guān)鍵。
“人們對(duì)自動(dòng)駕駛汽車(chē)這類(lèi)智能機(jī)器的擔(dān)心，主要源于對(duì)其算法的不了解。不知道在遇到特殊的情景時(shí)，會(huì)以怎樣的優(yōu)先次序進(jìn)行決策。”段偉文認(rèn)為，可引入醫(yī)學(xué)倫理中的“知情同意原則”，即人們?cè)谫?gòu)買(mǎi)自動(dòng)駕駛汽車(chē)時(shí)，就知道它會(huì)按怎樣的優(yōu)先次序去做。比如功利論算法的汽車(chē)，以傷害最小化為決策原則。相比于撞到五個(gè)行人，它會(huì)選擇傷害車(chē)上的一名乘客。而道義論算法的汽車(chē)，則以行為的道德正義性作為決策原則。
段偉文進(jìn)一步指出，人類(lèi)都沒(méi)有解決的“電車(chē)?yán)Ь场彪y題，人工智能自然也很難給出完美答案。但是人工智能有可能基于它的海量數(shù)據(jù)和迅速反應(yīng)能力，避免出現(xiàn)類(lèi)似“電車(chē)?yán)Ь场钡那榫啊?/p>
騰訊研究院未來(lái)科技中心高級(jí)研究員曹建峰認(rèn)為，人們的這些擔(dān)憂(yōu)是因?yàn)闆](méi)有和人工智能機(jī)器建立信任關(guān)系?！叭斯ぶ悄苤圃炱髽I(yè)需要通過(guò)多種方式建立用戶(hù)信任，比如讓自動(dòng)駕駛汽車(chē)可以向用戶(hù)解釋其決策。只有當(dāng)用戶(hù)知道智能機(jī)器為什么這么做、為什么不那么做的時(shí)候，人類(lèi)與智能機(jī)器之間的信任才會(huì)慢慢建立。”
警惕人工智能算法歧視
算法可以決定自動(dòng)駕駛汽車(chē)在遭遇兩難選擇時(shí)，犧牲哪一方。同樣，它還可以決定很多。比如電子科技大學(xué)的智慧助困系統(tǒng)，它通過(guò)對(duì)學(xué)生的勤工儉學(xué)、食堂消費(fèi)、校車(chē)、浴室等大量數(shù)據(jù)記錄的分析，根據(jù)這些外顯行為對(duì)學(xué)生的經(jīng)濟(jì)狀況進(jìn)行畫(huà)像，然后決定每月給哪些學(xué)生的飯卡自動(dòng)充值。
智慧助困系統(tǒng)這樣充滿(mǎn)人文關(guān)懷的算法設(shè)計(jì)，是“高道德水平”人工智能的一個(gè)經(jīng)典例子。然而，隨著人工智能的推廣普及，各種主觀或客觀的算法歧視越來(lái)越引發(fā)人們的關(guān)注。
“人工智能決策日益流行，算法歧視是一個(gè)不容忽視的問(wèn)題?！辈芙ǚ迮e例，在某網(wǎng)絡(luò)公司的廣告服務(wù)中，男性比女性看到更多高薪招聘廣告；在購(gòu)物比價(jià)服務(wù)中，某網(wǎng)絡(luò)購(gòu)物平臺(tái)隱瞞了自己及合作伙伴商品的運(yùn)費(fèi)，導(dǎo)致消費(fèi)者看不到公正的比價(jià)結(jié)果；某犯罪風(fēng)險(xiǎn)評(píng)估算法系統(tǒng)性地歧視黑人。
基于大數(shù)據(jù)和算法的人工智能，給人類(lèi)社會(huì)生活中的各種事務(wù)和決策工作帶來(lái)了很大便利，也一直被標(biāo)榜為客觀、準(zhǔn)確、理性。然而，“算法的設(shè)計(jì)者們是否可以不偏不倚地將既有法律或道德準(zhǔn)則原封不動(dòng)地編寫(xiě)進(jìn)程序，是值得懷疑的。規(guī)則代碼化帶來(lái)的不透明、不準(zhǔn)確，甚至不公平等問(wèn)題，值得深思和考究?！辈芙ǚ逄寡浴?/p>
段偉文也指出，人工智能算法不可避免地要體現(xiàn)設(shè)計(jì)者與執(zhí)行者的利益和價(jià)值取向。由于算法的不透明和難以理解，有時(shí)候很難看出其中的歧視和不公。因此很多人在毫不知情的情況下，承受著各種微妙的歧視和精準(zhǔn)的不公。
曹建峰指出，在涉及信用評(píng)估、犯罪風(fēng)險(xiǎn)評(píng)估、雇傭評(píng)估等項(xiàng)目時(shí)，人工智能決策的結(jié)果將影響貸款額度、刑罰輕重、雇傭與否?！爱?dāng)越來(lái)越多的決策工作從人類(lèi)向智能機(jī)器讓渡，如何確保人工智能遵循人類(lèi)倫理變得愈來(lái)愈重要?！?/p>
探索人工智能領(lǐng)域立法
“可能對(duì)于很多人來(lái)說(shuō)，初識(shí)人工智能，是通過(guò)《終結(jié)者》《少數(shù)派報(bào)告》《機(jī)器管家》這樣的科幻電影。在這些電影中，機(jī)器人會(huì)比人類(lèi)聰明，而且因具有自我意識(shí)而最終變得不為人所控制?！倍蝹ノ恼f(shuō)，這些影片從不同維度折射了人們對(duì)智能化未來(lái)的擔(dān)憂(yōu)與思考。
在大多數(shù)從事人工智能研究的專(zhuān)家看來(lái)，擬人化地看待人工智能，甚至擔(dān)憂(yōu)其作為一個(gè)新物種毀滅人類(lèi)，有些杞人憂(yōu)天了。人工智能在單一領(lǐng)域可能比人類(lèi)強(qiáng)很多，比如下棋、運(yùn)算，但要讓人工智能像人類(lèi)一樣能思考、有意識(shí)，短期內(nèi)不太可能實(shí)現(xiàn)。
“現(xiàn)階段探討人工智能倫理，主要是指加強(qiáng)人工智能設(shè)計(jì)倫理，旨在保證優(yōu)先發(fā)展造福人類(lèi)的人工智能，避免設(shè)計(jì)和制造出不符合人類(lèi)價(jià)值和利益的人工智能?！鄙虾＝煌ù髮W(xué)科學(xué)史博士陳自富說(shuō)。
陳自富認(rèn)為，人工智能倫理設(shè)計(jì)有三個(gè)方面需要關(guān)注。一是算法設(shè)計(jì)中的倫理審計(jì)，考慮算法中公平、效率之間的關(guān)系，避免使其成為“黑箱”。二是人工智能涉及的數(shù)據(jù)的所有權(quán)、隱私權(quán)和應(yīng)用開(kāi)發(fā)權(quán)的問(wèn)題。三是人工智能開(kāi)發(fā)中的倫理或政策限制問(wèn)題，即哪些可以研發(fā)，哪些禁止研發(fā)，哪些優(yōu)先研發(fā)等。
“從我國(guó)人工智能發(fā)展現(xiàn)狀來(lái)看，前兩項(xiàng)都缺乏行業(yè)規(guī)范和相關(guān)標(biāo)準(zhǔn)及法規(guī)。”陳自富指出，一些西方國(guó)家在數(shù)據(jù)的所有權(quán)、隱私權(quán)和應(yīng)用開(kāi)發(fā)權(quán)的主動(dòng)管理意識(shí)起步較早，對(duì)于技術(shù)開(kāi)發(fā)中與社會(huì)各個(gè)利益群體之間的溝通，也有穩(wěn)定的機(jī)制和監(jiān)督方式。在這些方面，我國(guó)要奮起直追。
現(xiàn)階段算法的不透明性是一個(gè)普遍的問(wèn)題?！捌髽I(yè)可以對(duì)算法主張商業(yè)機(jī)密或私有財(cái)產(chǎn)，一般使用者對(duì)算法進(jìn)行審查很困難?！辈芙ǚ逯赋?，在人工智能日益代替人類(lèi)進(jìn)行決策的時(shí)代，設(shè)計(jì)出驗(yàn)證、知情同意、透明、可責(zé)、救濟(jì)等方面的機(jī)制，對(duì)于確保人工智能研發(fā)利用與人類(lèi)社會(huì)的價(jià)值倫理一致，至關(guān)重要。
“人工智能產(chǎn)品研發(fā)不僅是技術(shù)人員的事，還需要法律、倫理、哲學(xué)、社會(huì)等學(xué)科人員參與其中。IBM、谷歌等都在某種程度上建立了跨學(xué)科的人工智能倫理審查委員會(huì)，確保人工智能技術(shù)的有益性。建議我國(guó)針對(duì)人工智能研發(fā)人員，制定相關(guān)倫理準(zhǔn)則。同時(shí)探索人工智能領(lǐng)域立法?！辈芙ǚ逭f(shuō)。
來(lái)源：光明日?qǐng)?bào)/龔亮 趙雯
1.TMT觀察網(wǎng)遵循行業(yè)規(guī)范，任何轉(zhuǎn)載的稿件都會(huì)明確標(biāo)注作者和來(lái)源；
2.TMT觀察網(wǎng)的原創(chuàng)文章，請(qǐng)轉(zhuǎn)載時(shí)務(wù)必注明文章作者和"來(lái)源：TMT觀察網(wǎng)"，不尊重原創(chuàng)的行為T(mén)MT觀察網(wǎng)或?qū)⒆肪控?zé)任；
3.作者投稿可能會(huì)經(jīng)TMT觀察網(wǎng)編輯修改或補(bǔ)充。
