要分辨下一個(gè)物種可能需要多年的觀鳥經(jīng)驗(yàn)。但是，杜克大學(xué)的研究人員使用一種稱為深度學(xué)習(xí)的人工智能技術(shù)，對(duì)一臺(tái)計(jì)算機(jī)進(jìn)行了培訓(xùn)，使其僅通過(guò)一張照片即可識(shí)別多達(dá)200種鳥類。但是，真正的創(chuàng)新在于，AI工具還可以顯示其思維方式，即使是不了解海雀企鵝的人也可以理解。

該小組通過(guò)向其喂食200種鳥類的11788張照片(從游泳鴨子到徘徊的蜂鳥)來(lái)訓(xùn)練其深層神經(jīng)網(wǎng)絡(luò)(基于大腦工作方式的算法)。

研究人員從未告訴網(wǎng)絡(luò)“這是喙”或“這些是翼羽”。給定一張神秘鳥的照片，該網(wǎng)絡(luò)能夠?qū)D像中的重要模式與以前見(jiàn)過(guò)的典型物種特征進(jìn)行比較，從而挑選出圖像中的重要模式并冒險(xiǎn)猜測(cè)。

一路走來(lái)，它散發(fā)出一系列的熱圖，這些熱圖本質(zhì)上說(shuō)：“這不只是任何鳴鳥。它是一個(gè)帶帽的鳴鳥，而這些特征(如蒙面的頭部和黃色的腹部)將其散發(fā)出去。”

杜克大學(xué)計(jì)算機(jī)科學(xué)博士學(xué)位 學(xué)生Chaofan Chen和本科生Oscar Li以及杜克大學(xué)教授Cynthia Rudin領(lǐng)導(dǎo)的預(yù)測(cè)分析實(shí)驗(yàn)室的其他成員帶領(lǐng)了這項(xiàng)研究。

他們發(fā)現(xiàn)他們的神經(jīng)網(wǎng)絡(luò)最多可以在84%的時(shí)間內(nèi)識(shí)別出正確的物種，這一點(diǎn)與其同類中表現(xiàn)最佳的同行相提并論，但是它們并沒(méi)有揭示出他們?nèi)绾畏直娉隽硪恢宦槿浮?。

魯丁說(shuō)，他們的項(xiàng)目不僅僅是為鳥類命名。這是關(guān)于可視化深度神經(jīng)網(wǎng)絡(luò)在查看圖像時(shí)真正看到的內(nèi)容。

類似的技術(shù)被用來(lái)標(biāo)記社交網(wǎng)站上的人，在監(jiān)視攝像機(jī)中發(fā)現(xiàn)可疑分子，并訓(xùn)練自動(dòng)駕駛汽車來(lái)檢測(cè)交通信號(hào)燈和行人之類的東西。

魯丁說(shuō)，問(wèn)題在于，眾所周知，大多數(shù)計(jì)算機(jī)視覺(jué)的深度學(xué)習(xí)方法都是不透明的。與傳統(tǒng)軟件不同，深度學(xué)習(xí)軟件無(wú)需顯式編程即可從數(shù)據(jù)中學(xué)習(xí)。結(jié)果，這些算法在對(duì)圖像進(jìn)行分類時(shí)究竟如何“思考”并不總是很清楚。

魯丁(Rudin)和她的同事們?cè)噲D證明AI不必那樣做。她和她的實(shí)驗(yàn)室正在設(shè)計(jì)深度學(xué)習(xí)模型，用以解釋其預(yù)測(cè)背后的原因，并明確說(shuō)明其原因以及提出答案的方式。當(dāng)這樣的模型出錯(cuò)時(shí)，其內(nèi)置的透明性使我們可以了解原因。

對(duì)于他們的下一個(gè)項(xiàng)目，Rudin和她的團(tuán)隊(duì)正在使用他們的算法對(duì)乳房X線照片等醫(yī)學(xué)圖像中的可疑區(qū)域進(jìn)行分類。如果可行，他們的系統(tǒng)將不僅可以幫助醫(yī)生發(fā)現(xiàn)腫塊，鈣化和其他可能是乳腺癌跡象的癥狀。它還將顯示其在乳房X光檢查的哪個(gè)部分，揭示哪些特定特征最類似于其他患者以前見(jiàn)過(guò)的癌性病變。

魯丁說(shuō)，通過(guò)這種方式，他們的網(wǎng)絡(luò)旨在模仿醫(yī)生的診斷方式。魯丁說(shuō)：“這是基于案例的推理。” “我們希望能夠更好地向醫(yī)生或患者解釋為什么他們的圖像被網(wǎng)絡(luò)分類為惡性或良性。”

該團(tuán)隊(duì)將于12月12日在溫哥華舉行的第三十三屆神經(jīng)信息處理系統(tǒng)大會(huì)(NeurIPS 2019)上發(fā)表有關(guān)其發(fā)現(xiàn)的論文。