人工智能和區(qū)塊鏈來(lái)了，法治會(huì)受到什么影響？觀點(diǎn)
數(shù)字化服務(wù)不是與法治徹底沖突，就是頻繁地與法治相抵觸。我們?nèi)绾慰隙ㄏ乱淮胺杉夹g(shù)”系統(tǒng)不會(huì)對(duì)特定群體或個(gè)人帶有偏見(jiàn)？律師需要掌握哪些技能才能正確評(píng)估數(shù)據(jù)驅(qū)動(dòng)決策下的司法質(zhì)量？
編者按：本文由「圖普科技」編譯自What do AI and blockchain mean for the rule of law?
多年來(lái)，企業(yè)家們一直都在關(guān)注著傳統(tǒng)的法律程序，削減成本讓他們眼前一亮，“簡(jiǎn)化”一詞頻繁出現(xiàn)在他們口中，但是在人工智能技術(shù)面前，早期的法律創(chuàng)新也黯然失色。人工智能具有變革性的潛力，而且人工智能算法已經(jīng)在逐步融入到法律程序中——在這個(gè)過(guò)程中也許在改變法律本身的底線。
但是，如果決策是由離散數(shù)據(jù)集訓(xùn)練出的算法模型自動(dòng)作出的，或者是通過(guò)嵌入?yún)^(qū)塊鏈的執(zhí)行策略而作出的，那么法律保護(hù)如何得到保障呢？
這些問(wèn)題正是著名的法律學(xué)家和哲學(xué)家Mireille Hildebrandt將在一個(gè)五年項(xiàng)目中研究的問(wèn)題。這個(gè)五年項(xiàng)目研究“計(jì)算機(jī)法律”的影響。“計(jì)算機(jī)法律”一詞屬于Hildebrandt首創(chuàng)，她是布魯塞爾自由大學(xué)法律、科學(xué)、技術(shù)和社會(huì)研究小組的成員之一。
上個(gè)月，歐洲研究委員會(huì)資助了Hildebrandt 250萬(wàn)歐元進(jìn)行雙重技術(shù)的基礎(chǔ)研究：人工智能法律智慧和區(qū)塊鏈的法律應(yīng)用。
接受TechCrunch采訪時(shí)，她用“十分抽象也十分實(shí)際”來(lái)形容她的項(xiàng)目，她稱(chēng)該項(xiàng)目將同時(shí)吸納律師和計(jì)算機(jī)科學(xué)家參加。她的目標(biāo)是提出一種新的法律解釋學(xué)，律師可借住這個(gè)框架處理計(jì)算機(jī)法律架構(gòu)，了解其局限和作用，能夠提出正確的問(wèn)題以評(píng)估那些不斷被用來(lái)評(píng)估人類(lèi)的技術(shù)。
她解釋道：
我的想法是律師和計(jì)算機(jī)科學(xué)家合作理解他們所面臨的問(wèn)題，希望律師可以思維敏捷、擅長(zhǎng)分析且與計(jì)算機(jī)科學(xué)家坦然相處，真正理解彼此的語(yǔ)言。
我們并不打算去開(kāi)發(fā)一種新的通用語(yǔ)言。這也是行不通的，我堅(jiān)信這一點(diǎn)。但是他們必須能夠理解一個(gè)術(shù)語(yǔ)在對(duì)方學(xué)科的含義，學(xué)會(huì)溝通和妥協(xié)，他們必須看到兩個(gè)領(lǐng)域的復(fù)雜性，不要將事情簡(jiǎn)單化。
在了解其復(fù)雜性后，能夠向相關(guān)的人，即我們這些民眾——闡釋?zhuān)沟妹癖娔軌蛟谡魏腿粘Ｉ钪凶鞒稣_的決定。
Hildebrandt表示，她把人工智能和區(qū)塊鏈技術(shù)納入項(xiàng)目?jī)?nèi)容，是因?yàn)槎咛峁┝恕皟煞N不同類(lèi)型的計(jì)算機(jī)法律”。
當(dāng)然也有可能將二者結(jié)合起來(lái)應(yīng)用——在法律技術(shù)背景下創(chuàng)造出“全新的風(fēng)險(xiǎn)和機(jī)遇”。
Hildebrandt認(rèn)為區(qū)塊鏈“凍結(jié)了未來(lái)”，這也從側(cè)面承認(rèn)了在法律背景下，比起AI，她對(duì)區(qū)塊鏈技術(shù)更加持有懷疑態(tài)度。
一旦你將想法置于區(qū)塊鏈中，任何改變都是非常困難的。因?yàn)楫?dāng)這些規(guī)則自我強(qiáng)化后，如果你想做出任何改變，那么你不僅將在金錢(qián)、努力、時(shí)間方面付出高昂的代價(jià)，同時(shí)不確定性和混亂出現(xiàn)的幾率也會(huì)增加。
你可以大把花錢(qián)，但是當(dāng)政府參與時(shí)，事情就不一樣了，因?yàn)樗麄儾豢赡苤皇腔ㄥX(qián)。
盡管如此，但她也認(rèn)定在未來(lái)的某個(gè)時(shí)刻，區(qū)塊鏈會(huì)成為一個(gè)極好的替代機(jī)制，例如，幫助各州和公司選定一個(gè)不太復(fù)雜的方法來(lái)確定全球稅法規(guī)定的義務(wù)。（假設(shè)可以達(dá)成任何此類(lèi)協(xié)議。）
鑒于互聯(lián)網(wǎng)平臺(tái)在跨國(guó)開(kāi)展業(yè)務(wù)和與管理不同管轄區(qū)域和政治期望時(shí)產(chǎn)生的法律合規(guī)問(wèn)題的復(fù)雜性，在未來(lái)某個(gè)時(shí)刻，可能需要新的應(yīng)用規(guī)則系統(tǒng)，且將策略導(dǎo)入?yún)^(qū)塊鏈可能成為解決所有交叉混亂的一種重要方式。
但是，Hildebrandt對(duì)基于區(qū)塊鏈的法律合規(guī)體系這一構(gòu)想仍持謹(jǐn)慎態(tài)度。
該項(xiàng)目的另一個(gè)研究領(lǐng)域是人工智能法律智慧，她清楚地了解其巨大的潛力，當(dāng)然也存在有風(fēng)險(xiǎn)。
“人工智能法律智慧意味著你可以使用機(jī)器學(xué)習(xí)來(lái)進(jìn)行論辯挖掘——即對(duì)大量的法律文本進(jìn)行自然語(yǔ)言處理，并試圖總結(jié)論述。”她舉了個(gè)判斷涉案人員是承包商還是員工的例子來(lái)解釋說(shuō)明。
“在美國(guó)和加拿大，這對(duì)公司和員工都會(huì)產(chǎn)生巨大的影響，如果他們弄錯(cuò)了，稅務(wù)局可能會(huì)直接走進(jìn)來(lái)給他們開(kāi)一筆巨額罰金，還會(huì)追回大量金錢(qián)，這可能超出他們的承受能力。”
由于該地區(qū)的判例法十分混亂，多倫多大學(xué)的學(xué)者開(kāi)發(fā)了一種AI——通過(guò)挖掘大量相關(guān)法律文本歸納出特定情況下的一系列特點(diǎn)，用于檢查涉案人員是否是員工。
“簡(jiǎn)單來(lái)說(shuō)，他們?cè)趯ふ乙环N數(shù)學(xué)函數(shù)，能將輸入數(shù)據(jù)（大量法律文本）以及輸出數(shù)據(jù)關(guān)聯(lián)起來(lái)。在這種情況下，無(wú)論您是員工還是承包商，都可以輕易辨識(shí)。如果這個(gè)數(shù)學(xué)函數(shù)在數(shù)據(jù)集中始終或幾乎始終都正確，則稱(chēng)之為高精度，我們將使用新的數(shù)據(jù)或分離的數(shù)據(jù)進(jìn)行測(cè)試，驗(yàn)證它是否仍然準(zhǔn)確。”
鑒于人工智能依賴(lài)數(shù)據(jù)集來(lái)推導(dǎo)算法模型自動(dòng)作出主觀法律判斷，律師將需要了解如何處理和檢查這些技術(shù)結(jié)構(gòu)以確定AI是否合法。
有誤差的數(shù)據(jù)集不可能會(huì)形成高精度的數(shù)學(xué)函數(shù)。如果你的AI參與了對(duì)人進(jìn)行主觀法律判斷，那么高精度的數(shù)學(xué)函數(shù)就不是一件可有可無(wú)的事了，而是必須。
“將要使用的技術(shù)或正在投資的法律技術(shù)都需要律師對(duì)最終結(jié)果進(jìn)行解釋——因此，不要說(shuō)‘哇，這有98％的準(zhǔn)確性，簡(jiǎn)直比最好的律師還棒！’ 他們應(yīng)該說(shuō)‘啊，好吧，能讓我看一組測(cè)試后的性能指標(biāo)嗎？ 嗯，謝謝，你為什么不使用這四個(gè)指標(biāo)，是因?yàn)樗鼈兊臏?zhǔn)確度低嗎？……你能給我看一下你的數(shù)據(jù)集嗎？ 你的假想是怎么設(shè)定的？ 你為什么要過(guò)濾這些論點(diǎn)？’
律師必須要對(duì)這樣的對(duì)話感興趣，并從中找到樂(lè)趣。這是一個(gè)非常嚴(yán)肅的事情，因?yàn)榉膳袥Q對(duì)人們的生活有很大的影響，但關(guān)鍵在于，律師應(yīng)該從在法律中解釋人工智能的結(jié)果中獲得樂(lè)趣。他們應(yīng)該有能力談?wù)撟詧?zhí)行代碼的局限性——因?yàn)檫@也是項(xiàng)目的另一研究重點(diǎn)，即區(qū)塊鏈技術(shù)的法律應(yīng)用。
當(dāng)談及‘不可變性’時(shí)，可以說(shuō)不可變性意味著如果將所有內(nèi)容都放入?yún)^(qū)塊鏈之后，突然發(fā)現(xiàn)這是一個(gè)可自動(dòng)執(zhí)行的錯(cuò)誤，你將要花費(fèi)大量的金錢(qián)和精力來(lái)修復(fù)，或者是談?wù)摗豢煽俊瘯r(shí)，你會(huì)說(shuō)我們不應(yīng)該相信這些機(jī)構(gòu)，但我們應(yīng)該相信我們不了解的軟件，我們應(yīng)該信任各種中間人，也就是在其他類(lèi)型的分布式分類(lèi)帳中無(wú)許可的挖掘工，或者其他類(lèi)型的中間商。
我希望律師能夠從中獲得有力的證據(jù)，找到切實(shí)的論辯，真正理解機(jī)器學(xué)習(xí)的偏見(jiàn)所帶來(lái)的影響和后果”
她接著舉例說(shuō)明了紐約大學(xué)AI Now研究所正在進(jìn)行的研究，并據(jù)此來(lái)研究人工智能系統(tǒng)的影響和處理。
“這是一方面的問(wèn)題，但我認(rèn)為還存在更多的問(wèn)題”，她在談?wù)撍惴ㄆ缫晻r(shí)補(bǔ)充道。 “所以這個(gè)項(xiàng)目的目的是讓大家一起溝通合作，去理解這一點(diǎn)。
“我認(rèn)為這對(duì)于律師來(lái)說(shuō)非常重要，他們不需要成為計(jì)算機(jī)科學(xué)家或統(tǒng)計(jì)學(xué)家，而是要真正理解法律領(lǐng)域內(nèi)正在發(fā)生的變革，然后才能分享，為面向文本的法律方法做出貢獻(xiàn)。
我的研究全是圍繞著文本進(jìn)行的，但是當(dāng)我們有能力使用非文本法規(guī)時(shí)，我們必須也要做好準(zhǔn)備。實(shí)際上，我認(rèn)為這已經(jīng)脫離了法律的范疇。
那么，如何平衡我們真正理解的事情——文本，和律師并不理解的其他方法？......而且公民也不理解這些方法。”
希爾德布蘭特認(rèn)為使用人工智能法律智慧技術(shù)挖掘論辯將會(huì)被“善意利用”—— 例如，AI可以用于評(píng)估特定法院作出的判決的質(zhì)量。
盡管如此，她提醒說(shuō)，任何此類(lèi)系統(tǒng)的設(shè)計(jì)都需要經(jīng)過(guò)深思熟慮。
“一種愚蠢的做法是僅給算法提供大量的數(shù)據(jù)進(jìn)行訓(xùn)練，然后說(shuō)‘嘿，那是不公平的，哇，這是不允許的’。 但你也可以鄭重考慮所需要的向量，以及如何進(jìn)行標(biāo)注。
然后你可能會(huì)發(fā)現(xiàn)，比如說(shuō)，該法院的判決要嚴(yán)格得多，因?yàn)榫教峤环ㄍサ陌讣欢ú粫?huì)簡(jiǎn)單，但警察都是善意的，他們經(jīng)常與公民交談，所以如果公民犯的事沒(méi)有那么嚴(yán)重，他們會(huì)試著用另一種方式解決問(wèn)題，而不是訴諸法律。
因此，該法庭審理的案件都十分嚴(yán)重，因此相比其他接受所有警察或檢察官提交案件的法庭，該法院判處的刑罰要重得多。
要理解這些，僅僅看法律文本當(dāng)然是不夠的。你還得了解警方數(shù)據(jù)。如果不這樣做，就算你的準(zhǔn)確性很高，得到的也是完全無(wú)意義的結(jié)果，因?yàn)樗⒉粫?huì)告訴你任何你所不知道的事情。但如果你以另一種方式來(lái)處理，你將面對(duì)帶有各種偏見(jiàn)的人們，并從挑戰(zhàn)中獲得樂(lè)趣。
然而，這種處理方式不應(yīng)將太多的事情視為理所應(yīng)當(dāng)。
我的想法是，這個(gè)工作的唯一方法就是在系統(tǒng)的設(shè)計(jì)階段將許多不同的人聚集在一起，無(wú)論是當(dāng)你決定要根據(jù)哪些數(shù)據(jù)來(lái)訓(xùn)練時(shí)時(shí)，或是正在開(kāi)發(fā)機(jī)器學(xué)習(xí)者所謂的“假設(shè)空間”時(shí)，或是試圖建模時(shí)。 當(dāng)然，你應(yīng)該測(cè)試5個(gè)、6個(gè),甚至7個(gè)性能指標(biāo)。
這也是人們應(yīng)該談?wù)摰膬?nèi)容——不僅僅是數(shù)據(jù)科學(xué)家和律師，還包括公民，因?yàn)槲覀儗?duì)法律問(wèn)題的處理將影響公民生活。
而且我絕對(duì)相信，如果你能采取更巧妙地方式，那么你可以獲得更強(qiáng)大的應(yīng)用程序。但這樣做的激勵(lì)機(jī)制可能并不明顯。 因?yàn)槲艺J(rèn)為法律技術(shù)可以被用于降低成本。”
她表示，該研究項(xiàng)目的關(guān)鍵概念之一是法律保護(hù)機(jī)制設(shè)計(jì)——探討其他有趣的（而非令人擔(dān)憂的）問(wèn)題，比如 ‘犯罪前’檢測(cè)由AI進(jìn)行驅(qū)動(dòng)，無(wú)罪推定會(huì)發(fā)生什么變化？
“如何設(shè)計(jì)這些系統(tǒng)，以使他們?cè)谏鲜械牡谝粫r(shí)間就能夠提供法律保護(hù)，而不是對(duì)原有的進(jìn)行補(bǔ)充。當(dāng)然這不僅僅涉及到數(shù)據(jù)保護(hù)，同時(shí)關(guān)系到非歧視原則和特定消費(fèi)者權(quán)益”，她說(shuō)。
“我一直相信，無(wú)罪推定與法律保護(hù)機(jī)制設(shè)計(jì)息息相關(guān)。因此，這需更多的考慮警方和情報(bào)部門(mén)。如何幫助情報(bào)部門(mén)和警方購(gòu)買(mǎi)或開(kāi)發(fā)具有某些局限的信息與通信技術(shù)（ICT），使其遵從無(wú)罪推定原則。但這并不是一件容易的事，我們可能不得不重新設(shè)定無(wú)罪推定的判定標(biāo)準(zhǔn)。”
這項(xiàng)研究雖比較抽象，但卻十分必要。Hildebrandt指出，人工智能和區(qū)塊鏈這兩大正在研究的技術(shù)，已經(jīng)應(yīng)用于法律語(yǔ)境中，盡管仍處于“試驗(yàn)狀態(tài)”。
而且，技術(shù)推動(dòng)的法律在未來(lái)必須無(wú)差別推進(jìn)，否則風(fēng)險(xiǎn)很大。
“歐盟和各國(guó)政府熱衷于試驗(yàn)......但試驗(yàn)在哪些方面已經(jīng)停止，或系統(tǒng)在哪些方面已經(jīng)應(yīng)用，并影響了與你我生活息息相關(guān)的決策，這些并不是那么容易被發(fā)現(xiàn)的，”她補(bǔ)充道。
此外，她希望，該項(xiàng)目能夠提出一種法律解釋方法，幫助律師和律師事務(wù)所駕馭可作為其推銷(xiāo)亮點(diǎn)之一的法律技術(shù)。
“很顯然，市場(chǎng)上將會(huì)出現(xiàn)很多濫竽充數(shù)的法律技術(shù)。”她說(shuō)，“這是不可避免的，法律技術(shù)將成為一個(gè)競(jìng)爭(zhēng)性的市場(chǎng)，里面有好的有壞的，但要準(zhǔn)確區(qū)分并不容易。因此，我相信通過(guò)這個(gè)基礎(chǔ)性項(xiàng)目的研究，你將更容易找到兩者的不同，并做出正確的判斷。這關(guān)乎一種思維模式，一種了解這些事情重要性后的思維模式。
“我個(gè)人十分認(rèn)同敏捷和精益計(jì)算。不要做毫無(wú)意義的事情，所以我希望這會(huì)為人們帶來(lái)優(yōu)勢(shì)，幫助他們跳過(guò)一些荒謬的方法論，從而脫穎而出。”
【鈦媒體作者介紹：本文由「圖普科技」編譯，微信公眾號(hào)：tuputech，體驗(yàn)基于深度學(xué)習(xí)的「圖像識(shí)別」應(yīng)用】
1.TMT觀察網(wǎng)遵循行業(yè)規(guī)范，任何轉(zhuǎn)載的稿件都會(huì)明確標(biāo)注作者和來(lái)源；
2.TMT觀察網(wǎng)的原創(chuàng)文章，請(qǐng)轉(zhuǎn)載時(shí)務(wù)必注明文章作者和"來(lái)源：TMT觀察網(wǎng)"，不尊重原創(chuàng)的行為T(mén)MT觀察網(wǎng)或?qū)⒆肪控?zé)任；
3.作者投稿可能會(huì)經(jīng)TMT觀察網(wǎng)編輯修改或補(bǔ)充。
