IBM Corp.正在努力通過(guò)今天早些時(shí)候發(fā)布的新平臺(tái)緩解基于人工智能的決策中的偏見(jiàn)問(wèn)題，該平臺(tái)可以告知人們AI模型如何得出結(jié)論。

該公司表示需要AI OpenScale，因?yàn)樵谧龀鲎钪匾臎Q策時(shí)，相當(dāng)多的企業(yè)根本不信任AI。主要問(wèn)題是他們不確定自己的AI模型是否存在偏見(jiàn)。他們還希望對(duì)AI如何得出結(jié)論以及如何追蹤其邏輯有更多的了解，IBM說(shuō)。

偏差是AI應(yīng)用程序黑盒性質(zhì)的副產(chǎn)品，這些應(yīng)用程序并不總是揭示其決策背后的邏輯。偏差可以引入訓(xùn)練數(shù)據(jù)以及機(jī)器學(xué)習(xí)邏輯中。消除這種像差可能是一項(xiàng)艱巨的數(shù)據(jù)科學(xué)練習(xí)。

在圣何塞的IBM Research Almaden研究中心的副總裁兼實(shí)驗(yàn)室主管Jeff Welser在周四接受SiliconANGLE采訪時(shí)說(shuō)，偏差并不總是容易被識(shí)別。“如果您擁有非常龐大的數(shù)據(jù)集，您甚至可能沒(méi)有意識(shí)到數(shù)據(jù)對(duì)性別或您正在分析的內(nèi)容略有偏見(jiàn)，” Welser說(shuō)。

AI OpenScale平臺(tái)(現(xiàn)已普遍提供)旨在通過(guò)算法來(lái)糾正偏差問(wèn)題，該算法能夠在運(yùn)行中的所有AI應(yīng)用程序中對(duì)其進(jìn)行檢測(cè)和糾正。

它通過(guò)持續(xù)監(jiān)控AI應(yīng)用程序并應(yīng)用“自動(dòng)去偏技術(shù)”來(lái)標(biāo)記傾向于在機(jī)器學(xué)習(xí)模型中累積的偏見(jiàn)來(lái)工作。該軟件記錄每個(gè)預(yù)測(cè)，模型版本和所有培訓(xùn)數(shù)據(jù)，以幫助組織通過(guò)簡(jiǎn)單的英語(yǔ)解釋來(lái)理解AI應(yīng)用程序如何做出決策。

“因此，現(xiàn)在我們有了分析數(shù)據(jù)集的系統(tǒng)，并查看它們?cè)谔囟ㄌ卣骷惺欠癖贿^(guò)多代表，” Welser說(shuō)。“這可能是您對(duì)這些特征的訓(xùn)練過(guò)度。”

AI OpenScale通過(guò)使使用任何開(kāi)源機(jī)器學(xué)習(xí)或深度學(xué)習(xí)模型構(gòu)建的應(yīng)用程序能夠在任何通用環(huán)境上運(yùn)行，還有助于簡(jiǎn)化AI模型的部署。其中包括IBM自己的Watson和PowerAI平臺(tái)，Seldon開(kāi)源框架，Amazon Web Services Inc.的SageMaker和Microsoft Corp.的AzureML等。

此外，該平臺(tái)還配備了神經(jīng)網(wǎng)絡(luò)綜合引擎，IBM稱(chēng)該引擎將使企業(yè)能夠快速，自動(dòng)地構(gòu)建神經(jīng)網(wǎng)絡(luò)以從頭開(kāi)始運(yùn)行AI。NeuNetS最初在AI OpenScale中作為beta功能提供，是為不具備工程能力來(lái)構(gòu)建自己的神經(jīng)網(wǎng)絡(luò)的公司設(shè)計(jì)的。