人工智能可以幫助科學(xué)家做出發(fā)現(xiàn)，但并不是每個人都能理解它是如何得出結(jié)論的。一位UMaine計算機科學(xué)家正在開發(fā)深度神經(jīng)網(wǎng)絡(luò)，以用戶理解的方式解釋其發(fā)現(xiàn)，并將其工作應(yīng)用于生物學(xué)，醫(yī)學(xué)和其他領(lǐng)域。

可解釋的機器學(xué)習(xí)或為所到達(dá)的結(jié)果創(chuàng)建解釋的AI，定義了陳超凡的研究重點。計算機科學(xué)助理教授表示，可解釋的機器學(xué)習(xí)還使AI能夠在圖像和來自數(shù)據(jù)的預(yù)測之間進(jìn)行比較，同時詳細(xì)說明其推理。

科學(xué)家可以將可解釋的機器學(xué)習(xí)用于各種應(yīng)用程序，從識別圖像以進(jìn)行野生動物調(diào)查的鳥類到分析乳房X線照片。

“我想增強深度學(xué)習(xí)的透明度，并且希望深度神經(jīng)網(wǎng)絡(luò)能夠解釋為什么某種東西是它認(rèn)為的樣子，” Chen說。“很多人已經(jīng)開始意識到，深層神經(jīng)網(wǎng)絡(luò)就像一個黑匣子，人們需要開始尋找打開黑匣子的方法。”

Chen在杜克大學(xué)(Duke University)學(xué)習(xí)期間開始開發(fā)可解釋的機器學(xué)習(xí)技術(shù)，他于五月在該大學(xué)獲得了計算機科學(xué)博士學(xué)位。

在加入UMaine之前，Chen和杜克大學(xué)的研究同事開發(fā)了機器學(xué)習(xí)架構(gòu)，稱為原型零件網(wǎng)絡(luò)(ProtoPNet)，可以對照片中的鳥類進(jìn)行精確定位和分類，然后解釋其發(fā)現(xiàn)。團隊去年完成的ProtoPNet將解釋為什么它識別的鳥是鳥，以及為什么它代表特定類型的鳥。

研究人員訓(xùn)練了ProtoPNet來確定照片中的鳥是哪種。例如，AI將學(xué)習(xí)一組表征每種鳥類的原型特征，并將鳥類圖像的不同部分與來自多種鳥類的原型特征進(jìn)行比較。例如，ProtoPNet會將圖像中認(rèn)為是鳥的頭部與來自各種鳥類類別的原型鳥的頭部進(jìn)行比較。Chen說，利用與鳥類原型特征的相似性，ProtoPNet可以解釋為什么圖像是一種特殊的鳥類。

該小組在去年加拿大溫哥華舉行的第33屆神經(jīng)信息處理系統(tǒng)會議上發(fā)表的一篇論文中分享了其發(fā)現(xiàn)。