在過去的十年左右的時(shí)間里，深度神經(jīng)網(wǎng)絡(luò)在包括圖像識別任務(wù)在內(nèi)的各種任務(wù)上都取得了非常有希望的結(jié)果。盡管它們具有優(yōu)勢，但它們卻非常復(fù)雜和復(fù)雜，這使得解釋他們學(xué)到的知識以及確定其預(yù)測背后的過程變得困難甚至有時(shí)是不可能的。缺乏可解釋性使得深度神經(jīng)網(wǎng)絡(luò)有些不可信任且不可靠。

由Cynthia Rudin教授領(lǐng)導(dǎo)的杜克大學(xué)預(yù)測分析實(shí)驗(yàn)室的研究人員最近設(shè)計(jì)了一種可以改善深度神經(jīng)網(wǎng)絡(luò)的可解釋性的技術(shù)。這種方法稱為概念美白(CW)，最早是在《自然機(jī)器智能》上發(fā)表的一篇論文中介紹的。

“我們沒有進(jìn)行事后分析來查看NN的隱藏層，而是直接更改NN來使?jié)摽臻g解開，以便使軸與已知概念對齊，”進(jìn)行這項(xiàng)研究的研究人員之一陳智，告訴Tech Xplore。“這種糾纏可以使我們對網(wǎng)絡(luò)如何逐步學(xué)習(xí)層上的概念有了更清晰的了解。它還集中了有關(guān)一個(gè)概念(例如“燈”，“床”或“人”)的所有信息，僅通過一個(gè)神經(jīng)元;這就是解纏的意思。”

最初，Rudin和她的同事們設(shè)計(jì)的技術(shù)解開了神經(jīng)網(wǎng)絡(luò)的潛在空間，使它的軸與已知概念對齊。從本質(zhì)上講，它執(zhí)行“白化轉(zhuǎn)換”，類似于將信號轉(zhuǎn)換為白噪聲的方式。此轉(zhuǎn)換對潛在空間進(jìn)行去相關(guān)。隨后，旋轉(zhuǎn)矩陣從戰(zhàn)略上將不同的概念與軸進(jìn)行匹配，而無需反轉(zhuǎn)該去相關(guān)性。