推動(dòng)數(shù)字化轉(zhuǎn)型時(shí)代的呼聲是以快速進(jìn)步的名義“快速行動(dòng)并打破事物”。但是破壞事物會(huì)帶來后果，并且往往會(huì)超出范圍，尤其是在自動(dòng)化機(jī)器快速移動(dòng)的情況下。

人工智能已經(jīng)成為超越人類工作能力的技術(shù)未來必不可少的東西。但是，盡管假設(shè)非人類工人可以提供更高水平的公正性，但新興的現(xiàn)實(shí)是，由技術(shù)行業(yè)開發(fā)的具有已知多樣性問題的AI工具可能充滿有害偏見。

隨著行業(yè)開始看到其機(jī)器學(xué)習(xí)試驗(yàn)期的結(jié)果越來越好，人工智能責(zé)任倡導(dǎo)者呼吁在創(chuàng)新中優(yōu)先考慮倫理學(xué)。

“當(dāng)我們考慮道德和人工智能時(shí)，這不僅是在改進(jìn)技術(shù)上，還在于 埃森哲應(yīng)用智能全球負(fù)責(zé)人AI負(fù)責(zé)人Rumman Chowdhury博士(如圖)說。

在最近的舊金山埃森哲技術(shù)愿景2019活動(dòng)中，喬杜里與SiliconANGLE Media的移動(dòng)直播工作室CUBE的主持人杰夫·弗里克(Jeff Frick)進(jìn)行了交談。

本周，CUBE在Rumman Chowdhury博士的“科技女性”專欄中聚焦。

編纂不公平

喬杜里(Chowdhury)通過社會(huì)科學(xué)來從事人工智能工作，這一背景導(dǎo)致了人類與技術(shù)相交的精神。數(shù)據(jù)科學(xué)家主要關(guān)注的是為AI提供信息的人性，這是在不斷創(chuàng)新的目標(biāo)推動(dòng)下的行業(yè)中罕見的觀點(diǎn)。

喬杜里說：“當(dāng)我想到人工智能或數(shù)據(jù)科學(xué)時(shí)，我實(shí)際上將其視為關(guān)于人們的信息，旨在理解人類行為的趨勢(shì)。”

隨著AI利用越來越多的敏感數(shù)據(jù)來為企業(yè)和消費(fèi)者每天使用的技術(shù)提供支持，圍繞其潛在內(nèi)在偏見的討論日益受到關(guān)注。面部識(shí)別系統(tǒng)無法識(shí)別膚色較深的人。由于系統(tǒng)性種族不平等而導(dǎo)致的預(yù)測(cè)性警務(wù)技術(shù)通過對(duì)“未來”的算法預(yù)測(cè)來加強(qiáng)量刑判決。全世界都認(rèn)為微軟是陰謀論的種族主義者之后，微軟被迫關(guān)閉了它的AI聊天機(jī)器人。

盡管并非所有機(jī)器學(xué)習(xí)工具的智能都被互聯(lián)網(wǎng)巨魔所眾包，但潛在的隱性偏見卻很明顯。人們擔(dān)心由一個(gè)人口統(tǒng)計(jì)學(xué)差異很大的行業(yè)開發(fā)的產(chǎn)品和服務(wù)是有效的，而且內(nèi)置的偏見也從硅谷外部滲入。

紐約州眾議員亞歷山大·奧卡西奧·科爾特斯(Alexandria Ocasio-Cortez)最近呼吁人們注意AI可能造成的意外歧視。她說：“算法仍然是人類制定的，那些算法仍然與人類的基本假設(shè)掛鉤。” “如果不糾正偏差，那么您就是在自動(dòng)實(shí)現(xiàn)偏差。” 盡管她的評(píng)論被許多人嘲笑為妄想癥，但AI偏見的例子已經(jīng)在日用技術(shù)中激增。

據(jù)喬杜里(Chowdhury)所說，真正負(fù)責(zé)任的AI不僅將解決其技術(shù)中內(nèi)置的問題，還將解決這些監(jiān)督背后的社會(huì)問題。 “您可以擁有出色的數(shù)據(jù)和完美的模型，但我們來自不完善的世界。世界不是一個(gè)公平的地方。我們不想將其編入我們的系統(tǒng)和流程中。”她說。

剎車有助于汽車更快行駛

隨著機(jī)器學(xué)習(xí)機(jī)會(huì)隨著越來越復(fù)雜的數(shù)據(jù)涌入而擴(kuò)大，可能限制AI影響的法規(guī)在企業(yè)中變得更難賣。單一聲音不會(huì)產(chǎn)生影響的感覺很容易使AI技術(shù)可能在沒有道德考慮的情況下運(yùn)作，從而使內(nèi)置偏見成倍增加。

“通常，我們感覺就像機(jī)器中的齒輪。Chowdhury說：“通常沒有足夠的責(zé)任感，因?yàn)槊總€(gè)人都認(rèn)為他們?yōu)檫@臺(tái)更大的機(jī)器做出了貢獻(xiàn)：'無論如何，該系統(tǒng)會(huì)壓垮我。”

喬杜里(Chowdhury)將此概念稱為“道德外包”，這種現(xiàn)象使社區(qū)中的每個(gè)人都能將責(zé)任推卸到整體上。但是，與AI不同，人類不僅僅是機(jī)器中的齒輪，而且具有獨(dú)立思考和行動(dòng)的能力。數(shù)據(jù)科學(xué)家認(rèn)為，人工智能的責(zé)任不僅應(yīng)該承擔(dān)整個(gè)行業(yè)的責(zé)任，還應(yīng)該承擔(dān)每個(gè)參與者的責(zé)任。

喬杜里說：“我們需要使人們有能力說出自己的想法并有道德上的良心。”

在一個(gè)癡迷于創(chuàng)新的市場(chǎng)中，將社會(huì)責(zé)任納入發(fā)展似乎聽起來是對(duì)某些人的限制。喬杜里說，盡管有意識(shí)的人工智能在倫理上的重要性可以說是足夠合理的，但監(jiān)管對(duì)商業(yè)創(chuàng)新和整個(gè)社區(qū)都有好處。

她說：“剎車有助于使汽車行駛得更快。” “如果我們有合適的護(hù)欄來告訴我們是否會(huì)失控，我們冒險(xiǎn)會(huì)更自在。聽起來很矛盾，但是如果我知道我的安全空間在哪里，我就更有能力做出真正的創(chuàng)新。”

解決大規(guī)模偏差

在AI的當(dāng)前規(guī)模上，似乎對(duì)偏見的廣泛后果的警告并沒有產(chǎn)生足夠的影響來激發(fā)人們轉(zhuǎn)向AI所需的社會(huì)意識(shí)。Chowdhury指出，負(fù)責(zé)任的AI戰(zhàn)略始于一種基本符合道德的商業(yè)文化和更全面的見解，這些見解可以識(shí)別技術(shù)的潛在意外后果。

擴(kuò)大公司視野的有效方法是包含多種跨學(xué)科的聲音。她說：“技術(shù)人員經(jīng)常會(huì)說，這是正確的，'我怎么應(yīng)該知道X會(huì)發(fā)生什么?'。” “這是特定于鄰里，國(guó)家或社會(huì)經(jīng)濟(jì)團(tuán)體的東西。您應(yīng)該做的是引入當(dāng)?shù)厣鐓^(qū)ACLU和某種區(qū)域?qū)＜摇?rdquo;

在埃森哲公司，喬杜里及其團(tuán)隊(duì)已將AI公平工具的使用作為公司機(jī)器學(xué)習(xí)透明性計(jì)劃的一部分。該工具通過識(shí)別敏感變量(例如年齡，性別和種族)，并在指導(dǎo)AI技術(shù)的統(tǒng)計(jì)模型中對(duì)其進(jìn)行調(diào)整，從而解決了可量化的AI偏差問題。

偏差是一個(gè)敏感問題，公平工具負(fù)責(zé)客觀地引起人們對(duì)潛在不平等現(xiàn)象的關(guān)注。喬杜里說：“我們的思考方式不是作為決策者，而是決策者……解釋潛在的缺陷和問題，然后采取集體行動(dòng)。” “它有助于平滑對(duì)話，并指出算法中可能存在不公平之處。”

事實(shí)證明，具有道德包容性的企業(yè)擁有更成功的團(tuán)隊(duì)，他們可以創(chuàng)造更好的產(chǎn)品，并在整個(gè)市場(chǎng)上排名更高。盡管AI可能使組織有權(quán)追求無限的創(chuàng)新，但要使企業(yè)和社區(qū)在AI方面取得成功，就需要長(zhǎng)期的戰(zhàn)略，該戰(zhàn)略必須建立在社會(huì)責(zé)任之上。

她說：“如果我們建立的東西從根本上講是不道德的，我們就必須停止并說：'只是因?yàn)槲覀儾荒芤馕吨覀儜?yīng)該這樣做。'