就像一個十幾歲的孩子有時做出錯誤的選擇并且不能總是解釋導致他們誤入歧途的情緒一樣，人工智能正在經(jīng)歷越來越大的痛苦。

盡管這個術(shù)語最初是由計算機科學家約翰·麥卡錫(John McCarthy)于1955年提出的，但直到八年前，更快的處理器和數(shù)據(jù)收集設備的爆炸大大推動了AI的發(fā)展，AI才真正流行起來。2011年，引入了蘋果的語音助手Siri，IBM公司的Watson在一場問答比賽中擊敗了競爭對手，這激發(fā)了人們對AI提供的潛力的更大興趣。

問題在于，使用AI創(chuàng)造的大部分東西，尤其是被稱為深度學習的那種嘗試幫助計算機像人類一樣學習的東西，仍然仍然是個謎。隨著傳感器收集的信息流入龐大的人工神經(jīng)元和算法網(wǎng)絡，并產(chǎn)生結(jié)果，沒人能確定機器是如何做出決定或采取特定行動的。

在當前的技術(shù)術(shù)語中，將AI封裝在“黑匣子”中，這不一定是一件好事。

一家公司 -Kyndi Inc.- 已著手打開黑匣子并解釋其中的內(nèi)容。該公司正在構(gòu)建其所謂的第一個“可解釋的AI”平臺，這是一種在AI神秘機背后提供可審計推理的方法。

Kyndi首席運營官艾米·瓜里諾(Amy Guarino)(如圖)說：“你無法理解結(jié)果是什么。” “我們這樣做的方式是，您可以追溯到實際的原始數(shù)據(jù)源，以確保它確實是正確的。”

瓜里諾在兩次單獨的采訪中與位于加利福尼亞帕洛阿爾托的SiliconANGLE Media移動直播工作室CUBE主持人Peter Burris進行了交談。他們討論了Kyndi可解釋的AI背后的技術(shù)，在受監(jiān)管的行業(yè)之外采用其平臺，越來越多的人擔心深度學習可能無法迅速發(fā)展，以及瓜里諾從硅谷男性主導的走廊中多年的經(jīng)驗中學到了什么(見此處和此處的成績單的完整訪談)。

本周，CUBE在其“科技女性”專題節(jié)目中聚焦了Amy Guarino。

從語言解析上下文

Kyndi使用語言解鎖黑匣子。它的技術(shù)可吸收任何文本形式的文檔，然后應用自然語言處理來解析術(shù)語和上下文。

然后，它可以從文檔中提取結(jié)構(gòu)并提供域靈活性，而黑匣子AI并不能做到這一點。Kyndi的平臺也不需要大量的數(shù)據(jù)來訓練其模型。該系統(tǒng)只能訓練10到30個科學文件，每個文件最多50頁。

瓜里諾說：“建立一個分類法時，您不必做很多工作。” “我們采取的方法實際上集中在語言上。”

該公司最初認為，其技術(shù)最廣泛使用的應用將是在需要解釋的受管制行業(yè)中。但是Kyndi發(fā)現(xiàn)，其從非結(jié)構(gòu)化文本數(shù)據(jù)構(gòu)建巨型知識圖的過程在人力資源和營銷等其他組織中具有吸引力。

瓜里諾說：“這對于任何類型的決策都是非常重要的，因為人們正在分配資源，他們必須解釋原因。”

人工智能進展緩慢

Kyndi的方法出現(xiàn)之時，一些技術(shù)專家警告說AI可能會在其發(fā)展過程中碰壁。去年，紐約大學教授，對當前AI技術(shù)的長期批評家Gary Marcus發(fā)表了一份報告 ，公開質(zhì)疑從深度學習中提取的模式是否真的那么深。

隨著AI和機器學習應用的持續(xù)增長，這可能給許多企業(yè)帶來麻煩。德勤全球(Deloitte Global)最近報告稱，到明年，集成了AI的企業(yè)軟件的滲透率將達到87%。

Kyndi自己與企業(yè)公司的討論呼應了圍繞AI的一些不確定性。瓜里諾(Guarino)最近與一家在水處理廠使用深度學習的公司進行了交談，這一過程受到水質(zhì)監(jiān)管機構(gòu)的質(zhì)疑。

瓜里諾回憶說：“他們的客戶說，'您需要向我們解釋您在做什么以及為什么這么做。' “他們說，'我們不能。' 那是個問題。”

克服性別障礙

瓜里諾(Guarino)花了超過25年的時間指導客戶銷售組織。在加入Kyndi之前，她曾負責市場營銷自動化軟件公司Marketo Inc.的業(yè)務開發(fā)，該公司最近被Adobe Inc.以47.5億美元的價格收購。

憑借她在硅谷的經(jīng)驗，瓜里諾非常了解在一個男性主導的行業(yè)中女性所面臨的挑戰(zhàn)。

瓜里諾說：“尤其是在科技領(lǐng)域，有很多情況你會走進銷售組織，而其中80%到90%的人都是這樣。” “這使女性很難加入這樣的組織。”

肯迪(Kyndi)的首席運營官對婦女處于少數(shù)群體的環(huán)境并不陌生。瓜里諾大學(Guarino)在學校開始招收女性后的第10年，從圣母大學畢業(yè)。 當時她的班級比例是80%的男性和20%的女性。

在她的職業(yè)生涯中，瓜里諾(Guarino)對女性可以帶給銷售組織的優(yōu)勢有了更好的了解。“女性如何看待銷售?” 瓜里諾問。“很多都集中在聽力技巧上。女人確實具有天生的親和力，能夠傾聽并真正退出，無論是潛在客戶還是客戶，對他們來說真正重要的是什么。”

許多科技公司面臨的挑戰(zhàn)是使員工隊伍多樣化并充分利用不同觀點可能帶來的技能和特質(zhì)。瓜里諾說，這包括確保女性在公司領(lǐng)導層中有足夠的代表。

瓜里諾說：“這可以在很大程度上改變公司文化的活力。” “期望您有不同類型的觀點和查看客戶獲取，參與和支持的不同方法。當您有不同的看法和不同的看待事物的方式時，我們都可以互相幫助。”