從Google搜索和約會網(wǎng)站到檢測信用卡欺詐，人工智能(AI)一直在尋找進入我們生活的新方法。但是我們可以相信驅(qū)動它的算法嗎?

作為人類，我們會犯錯誤。我們可能會引起注意失誤并曲解信息。但是，當(dāng)我們重新評估時，我們可以找出并糾正錯誤。

但是，當(dāng)AI系統(tǒng)出錯時，無論在相同情況下查看相同數(shù)據(jù)有多少次，都將一次又一次重復(fù)。

使用不可避免地反映過去的數(shù)據(jù)來訓(xùn)練AI系統(tǒng)。如果訓(xùn)練數(shù)據(jù)集包含過去人類決策的內(nèi)在偏見，則這些偏見將由系統(tǒng)進行整理和放大。

或者，如果它包含的有關(guān)特定少數(shù)群體的數(shù)據(jù)較少，那么對該群體的預(yù)測將趨于惡化。這稱為“算法偏差”。

Gradient Institute共同撰寫了一篇論文，展示了企業(yè)如何識別AI系統(tǒng)中的算法偏差，以及如何減輕它。

該作品是與澳大利亞人權(quán)委員會，消費者政策研究中心，CSIRO的Data61和CHOICE倡導(dǎo)小組合作制作的。

算法偏差如何產(chǎn)生?

缺乏合適的訓(xùn)練數(shù)據(jù)或不適當(dāng)?shù)南到y(tǒng)設(shè)計或配置可能會導(dǎo)致算法偏差。

例如，通常使用銀行以前的貸款決定的大數(shù)據(jù)集(以及銀行可以訪問的其他相關(guān)數(shù)據(jù))來訓(xùn)練幫助銀行決定是否授予貸款的系統(tǒng)。

該系統(tǒng)可以將新貸款申請人的財務(wù)歷史，工作歷史和人口統(tǒng)計信息與先前申請人的相應(yīng)信息進行比較。據(jù)此，它試圖預(yù)測新申請人是否將能夠償還貸款。

但是這種方法可能會出現(xiàn)問題。在這種情況下可能出現(xiàn)算法偏差的一種方式是通過貸款管理者的無意識偏差，他們過去對抵押貸款申請做出了決定。

如果過去少數(shù)族裔的客戶被不公平地拒絕了貸款，則認可機構(gòu)將認為這些族群的一般還款能力低于實際水平。