“電腦說不”是《小不列顛》的笑點(diǎn)，它模仿了最糟糕的客戶服務(wù)，由一個(gè)愚蠢的終端提供幫助和支持。我們也有過類似的遭遇，大家都面帶笑容。

然而，隨著越來越多的服務(wù)實(shí)現(xiàn)自動(dòng)化，“電腦說不”可能意味著在沒有任何解釋的情況下，工作、抵押貸款甚至醫(yī)療服務(wù)都會(huì)被拒絕。不是鬧著玩的。

所有數(shù)據(jù)科學(xué)家(包括我自己)都有責(zé)任確保用于訓(xùn)練AI/ML模型的數(shù)據(jù)集是準(zhǔn)確、完整和無偏的。除此之外，我們還要確保算法所使用的因素對(duì)受影響的人是透明的。

隨著越來越多的政府、醫(yī)療和司法系統(tǒng)實(shí)現(xiàn)自動(dòng)化，我預(yù)計(jì)我們將看到一種向可解釋的人工智能的轉(zhuǎn)變，其驅(qū)動(dòng)因素是消費(fèi)者對(duì)支持自動(dòng)決策的算法的警惕。我們已經(jīng)看到一個(gè)這樣的例子，即Foxglove組織對(duì)英國(guó)政府的簽證申請(qǐng)算法發(fā)起的挑戰(zhàn)。Foxglove是一個(gè)旨在促進(jìn)科技行業(yè)道德規(guī)范的游說團(tuán)體。

我預(yù)見組織將引入AI治理，或者一種標(biāo)準(zhǔn)化的透明度水平，它將概述出AI算法如何產(chǎn)生決策或預(yù)測(cè)的因素和途徑。隨著自動(dòng)化成為常態(tài)，掩蓋人工智能的組織可能會(huì)失去那些提供透明度的客戶。

然而，消費(fèi)者可能不會(huì)要求產(chǎn)品推薦系統(tǒng)具有與醫(yī)療診斷系統(tǒng)相同的透明度，或者自動(dòng)駕駛汽車的實(shí)時(shí)決策邏輯。

總結(jié)的結(jié)果CCS Insight的IT決策者工作技術(shù)2019年調(diào)查,分析師Nick McQuire寫道,“人工智能系統(tǒng)的能力,以確保數(shù)據(jù)的安全性和隱私,和系統(tǒng)如何工作的透明度和訓(xùn)練,現(xiàn)在是兩個(gè)最重要的需求當(dāng)投資于機(jī)器學(xué)習(xí)技術(shù)?！?/p>

對(duì)于某些應(yīng)用程序，例如醫(yī)療診斷，我認(rèn)為能夠解釋算法背后的邏輯將是一個(gè)優(yōu)勢(shì)。對(duì)于其他領(lǐng)域，區(qū)別在于應(yīng)用程序的運(yùn)行時(shí)間、使用新數(shù)據(jù)對(duì)數(shù)據(jù)集進(jìn)行調(diào)優(yōu)和重新學(xué)習(xí)的頻率，以及諸如準(zhǔn)確性、真陽性和假陰性等成功度量。

數(shù)據(jù)集中的偏差和方差是反映現(xiàn)實(shí)世界應(yīng)用程序的常見挑戰(zhàn)。例如，汽車保險(xiǎn)公司在非洲國(guó)家的政策/保費(fèi)自動(dòng)化應(yīng)用方面受到挑戰(zhàn)，在這些國(guó)家，道路基礎(chǔ)設(shè)施的差異可能導(dǎo)致好司機(jī)因路面差而受到懲罰。這符合分類偏差的范圍，對(duì)數(shù)據(jù)科學(xué)家來說，這是一個(gè)與設(shè)計(jì)相關(guān)的挑戰(zhàn)。

為了克服數(shù)據(jù)模型中的偏見，第一個(gè)建議是使用機(jī)器學(xué)習(xí)算法或統(tǒng)計(jì)學(xué)習(xí)方法，而不是深度學(xué)習(xí)。通常情況下，機(jī)器學(xué)習(xí)方法是特征提取器，當(dāng)數(shù)據(jù)集很小或有絕對(duì)偏差時(shí)非常適合使用。然而，深度學(xué)習(xí)算法需要一個(gè)更大的分類一致的數(shù)據(jù)集。

第二條建議是增加數(shù)據(jù)集，這樣就可以人為地創(chuàng)建類別以獲得統(tǒng)一的數(shù)據(jù)集。然而，從經(jīng)驗(yàn)來看，擴(kuò)展只適用于特定類型的用例——如果設(shè)計(jì)得不好，可能會(huì)對(duì)學(xué)習(xí)過程產(chǎn)生負(fù)面影響。

我預(yù)見了自動(dòng)化數(shù)據(jù)清理、數(shù)據(jù)分析和預(yù)測(cè)分析的需求，以使企業(yè)用戶和消費(fèi)者能夠信任提供給人工智能模型的數(shù)據(jù)。

使用人工智能來掌握或清理數(shù)據(jù)需要主題專家來驗(yàn)證預(yù)測(cè)決策。在我看來，為預(yù)測(cè)結(jié)果提供透明性的最佳方法是顯示AI管道和有助于達(dá)到預(yù)測(cè)最終狀態(tài)的有影響力的數(shù)據(jù)點(diǎn)或數(shù)據(jù)屬性。這可以以圖形或圖像的形式顯示為可視的關(guān)鍵性能指示器。

深度學(xué)習(xí)假設(shè)算法不一定提供真理，而是解釋了準(zhǔn)確性的水平，其中每一層提取一個(gè)抽象的輸入數(shù)據(jù)，所以深度學(xué)習(xí)算法中的每一層都有自己的功能，它會(huì)扭曲最終的預(yù)測(cè)決策。算法被設(shè)計(jì)來“衡量”數(shù)據(jù)點(diǎn)，并提出一個(gè)靈活的函數(shù)(如果你愿意)，可以適應(yīng)新的數(shù)據(jù)點(diǎn)。由此產(chǎn)生的預(yù)測(cè)是一種可能，它來自于對(duì)不同數(shù)據(jù)點(diǎn)的組合和因式分解。

擁有干凈、最新、相關(guān)、高質(zhì)量的數(shù)據(jù)更有可能產(chǎn)生有效的預(yù)測(cè)。

我們?cè)谌斯ぶ悄茴I(lǐng)域觀察到的是，組織正在投入大量的時(shí)間和金錢，使人工智能更容易被消費(fèi)者中的不同角色訪問。隨著我們不斷提高人工智能的粘性和投資回報(bào)率，我們將開始更多地關(guān)注人工智能提出的自動(dòng)化和前瞻性建議(即指令性分析)。隨后，可解釋的人工智能將提供一定程度的透明度，說明預(yù)測(cè)決策是如何產(chǎn)生的。

組織可以采取一些策略，在不暴露其知識(shí)產(chǎn)權(quán)的情況下，顯示達(dá)到可預(yù)測(cè)的最終狀態(tài)的透明度水平。大多數(shù)消費(fèi)者不一定需要看到AI算法的設(shè)計(jì)(這是組織的知識(shí)產(chǎn)權(quán))，而是需要對(duì)預(yù)測(cè)決策是如何產(chǎn)生的基本理解(如鏈接分析)。

我相信，對(duì)于消費(fèi)者來說，首先了解哪些輸入?yún)?shù)影響了預(yù)測(cè)的決策，其次了解哪些數(shù)據(jù)點(diǎn)或?qū)傩缘慕M合產(chǎn)生了更高的預(yù)測(cè)決策的可能性，這將是更有益的。

如今，“黑盒邏輯”可能會(huì)成為組織面臨的主要挑戰(zhàn)之一，因?yàn)樗鼈円鉀Q使用人工智能和機(jī)器學(xué)習(xí)的自動(dòng)化過程。

自動(dòng)化對(duì)任何組織都是有益的，但我認(rèn)為，鑒于人工智能模型的當(dāng)前成熟度，人工智能需要掌控，而且必須始終將主題放在等式的中心。我的建議是使用人工智能進(jìn)行建議和推薦，并讓主題專家驗(yàn)證人工智能算法的結(jié)果。

這種策略的好處是，算法暴露在更大的數(shù)據(jù)集中，從而鞏固了它的知識(shí)庫(kù)，隨著時(shí)間的推移，它將嘗試模仿主題專家的響應(yīng)，從而獲得更高的準(zhǔn)確性。