IBM Corp. 向LF AI捐贈(zèng)了三個(gè)開源人工智能開發(fā)工具包，這是Linux基金會(huì)內(nèi)部維護(hù)開源機(jī)器學(xué)習(xí)工具的組織。

LF AI技術(shù)咨詢委員會(huì)于本月初正式批準(zhǔn)了此舉。IBM當(dāng)前正在將項(xiàng)目轉(zhuǎn)移到組織中。

這三個(gè)工具箱各自具有不同的用途。一種旨在幫助開發(fā)人員消除AI項(xiàng)目中的偏見(jiàn)，而另一種則專注于保護(hù)神經(jīng)網(wǎng)絡(luò)并使其輸出可解釋，以便可以驗(yàn)證計(jì)算。

所述AI公平360工具包包括用于在機(jī)器學(xué)習(xí)項(xiàng)目的不同成分而減輕偏壓近十算法。這些算法可以幫助修復(fù)AI模型處理的數(shù)據(jù)，模型本身以及作為輸出提供的預(yù)測(cè)中的偏差。IBM還添加了一組評(píng)估指標(biāo)，用于評(píng)估訓(xùn)練數(shù)據(jù)集，在開發(fā)過(guò)程中利用該訓(xùn)練數(shù)據(jù)集完善了神經(jīng)網(wǎng)絡(luò)的功能。

IBM委托給Linux Foundation的第二個(gè)項(xiàng)目稱為Adversarial Robustness 360 Toolbox。它使開發(fā)人員能夠使自己的AI模型更具彈性，以抵抗所謂的對(duì)抗攻擊。在這種網(wǎng)絡(luò)攻擊中，黑客將惡意輸入注入神經(jīng)網(wǎng)絡(luò)以觸發(fā)錯(cuò)誤。該項(xiàng)目包括用于強(qiáng)化模式的算法和開發(fā)人員可以用來(lái)測(cè)試其彈性的預(yù)打包攻擊。

第三個(gè)工具包是AI Explainability 360 Toolkit，其目的是解決以下事實(shí)：由于神經(jīng)網(wǎng)絡(luò)固有的復(fù)雜性，解釋AI為什么做出給定決策通常很困難。按照其他兩個(gè)項(xiàng)目的模式，它包括用于將可解釋性構(gòu)建到模型中的預(yù)打包算法。也有代碼示例，指南和文檔。

解釋AI如何得出特定結(jié)論的能力對(duì)于確保公平和驗(yàn)證模型的安全性都是非常重要的。對(duì)于在這兩個(gè)領(lǐng)域工作的開發(fā)人員，AI Explainability 360 Toolkit可以幫助補(bǔ)充IBM捐贈(zèng)給Linux基金會(huì)的其他項(xiàng)目。

IBM高管Todd Moore，Sriram Raghavan和Aleksandra Mojsilovic表示：“向LFAI捐贈(zèng)這些項(xiàng)目將進(jìn)一步推動(dòng)創(chuàng)建負(fù)責(zé)任的AI技術(shù)的使命，并使更大的社區(qū)能夠挺身而出并在Linux Foundation的治理下共同創(chuàng)建這些工具。在博客文章中寫道。

IBM內(nèi)部研究AI小組負(fù)責(zé)人Raghavan于5月出現(xiàn)在SiliconANGLE Media的視頻工作室theCUBE中。他討論了公司的機(jī)器學(xué)習(xí)策略以及公司如何將AI可解釋性作為其工作的重點(diǎn)。

“我們將AI議程分為三部分：推進(jìn)，信任和擴(kuò)展AI，” Raghavan說(shuō)道。“信任正在建立值得信賴的AI，這是可以解釋的。您可以控制和了解它的行為，理解它以及它所伴隨的所有技術(shù)。”