數(shù)據(jù)分析的黃金時(shí)代迎來(lái)了兩項(xiàng)發(fā)展。一種是龐大的，不斷擴(kuò)展的可用數(shù)據(jù)量。另一個(gè)是先進(jìn)的新型機(jī)器學(xué)習(xí)和人工智能技術(shù)。

有人可能會(huì)認(rèn)為這兩只狗可以自己比賽到終點(diǎn)。但是，當(dāng)今的數(shù)據(jù)科學(xué)中還需要另一個(gè)要素。沒(méi)有它，不正確的輸入和輸出以及普遍的偏見(jiàn)可能會(huì)破壞最佳的分析工作。

BrightHive Inc.聯(lián)合創(chuàng)始人兼戰(zhàn)略計(jì)劃負(fù)責(zé)人Natalie Evans Harris(如圖)說(shuō)：“人才是未來(lái)數(shù)據(jù)科學(xué)面臨的最大挑戰(zhàn) 。” 分析軟件的消費(fèi)者可能會(huì)輕易忘記這些算法并非自己創(chuàng)造的;人們創(chuàng)造了它們。這些人頭腦中的東西很可能會(huì)進(jìn)入算法。任何可能信任他們做出決定的人都應(yīng)該對(duì)此予以關(guān)注。

先進(jìn)的新型AI和ML軟件降低了企業(yè)，政府機(jī)構(gòu)和其他機(jī)構(gòu)的準(zhǔn)入門(mén)檻。對(duì)于他們來(lái)說(shuō)，將數(shù)據(jù)科學(xué)應(yīng)用于特定的問(wèn)題從來(lái)沒(méi)有像現(xiàn)在這樣容易。“但我們還需要認(rèn)識(shí)到，無(wú)論人工智能如何獲得出色的表現(xiàn)，仍然需要人類(lèi)參與其中，因?yàn)樗惴ǖ膹?qiáng)大程度僅與開(kāi)發(fā)它們的人一樣強(qiáng)大，”埃文斯·哈里斯(Evans Harris)說(shuō)。

我們?nèi)绾未_保我們開(kāi)發(fā)強(qiáng)大的，相對(duì)公正的算法?根據(jù)埃文斯·哈里斯(Evans Harris)的說(shuō)法，通過(guò)讓具有不同經(jīng)驗(yàn)和教育程度的各種人員來(lái)完成任務(wù)。

埃文斯·哈里斯(Evans Harris) 在斯坦福大學(xué)的斯坦福女性數(shù)據(jù)科學(xué)活動(dòng)中與SiliconANGLE Media的移動(dòng)直播工作室CUBE主持人麗莎·馬丁(Lisa Martin)進(jìn)行了交談。他們討論了數(shù)據(jù)科學(xué)的人員問(wèn)題以及可以幫助限制算法偏差的行為。

本周，CUBE在其“每周啟動(dòng)”功能中聚焦了Natalie Evans Harris和BrightHive。

訓(xùn)練數(shù)據(jù)中的魔鬼

準(zhǔn)確的數(shù)據(jù)分析(回答問(wèn)題或預(yù)測(cè)結(jié)果的那種方法)絕非易事。算法訓(xùn)練的數(shù)據(jù)最終將通知算法。從大量可用數(shù)據(jù)中選擇合適的數(shù)據(jù)進(jìn)行分析可能是一個(gè)挑戰(zhàn)。

IBM公司研究阿爾瑪?shù)茄芯恐行母笨偛眉鎸?shí)驗(yàn)室主任杰夫·韋爾斯(Jeff Welser)表示：“如果您有非常龐大的數(shù)據(jù)集，您甚至可能甚至沒(méi)有意識(shí)到數(shù)據(jù)在性別或您正在分析的內(nèi)容上會(huì)略有偏見(jiàn)。”圣何塞 在12月告訴SiliconANGLE。“這可能是您對(duì)這些特征的訓(xùn)練過(guò)度。”

說(shuō)一種算法是為了預(yù)測(cè)普通人群的駕駛行為。如果酗酒者和帶有假肢的人在數(shù)據(jù)集中被過(guò)多代表怎么辦?根據(jù)該數(shù)據(jù)訓(xùn)練的算法可能沒(méi)有最大的預(yù)測(cè)能力。人們需要問(wèn)數(shù)據(jù)問(wèn)題，以避免這種情況。根據(jù)埃文斯·哈里斯(Evans Harris)的說(shuō)法，處理數(shù)據(jù)的任何人都必須學(xué)習(xí)這項(xiàng)技能。

這位企業(yè)家以前曾在國(guó)家安全局工作，以幫助建立其數(shù)據(jù)科學(xué)計(jì)劃。在那里，她發(fā)現(xiàn)了熟練的問(wèn)題提問(wèn)對(duì)數(shù)據(jù)科學(xué)至關(guān)重要。它實(shí)際上已成為那里的數(shù)據(jù)科學(xué)家的官方課程。

埃文斯·哈里斯(Evans Harris)表示：“我們讓他們每個(gè)人都上了一堂問(wèn)問(wèn)題的課，這與我們情報(bào)分析員上的課一樣。” “因此，歷史和外語(yǔ)專(zhuān)家需要學(xué)習(xí)如何提出數(shù)據(jù)問(wèn)題的方式，我們也需要數(shù)據(jù)科學(xué)家也要學(xué)習(xí)。”

不同類(lèi)型的人會(huì)問(wèn)不同的數(shù)據(jù)問(wèn)題。從許多不同的角度提出更多問(wèn)題，可以得出有趣的見(jiàn)解，激發(fā)新的分析項(xiàng)目，并審查數(shù)據(jù)是否存在偏見(jiàn)。

無(wú)偏差A(yù)I是一種幻想嗎?

根據(jù)Gartner Inc.研究副總裁Alexander Linden的說(shuō)法，絕對(duì)無(wú)偏差的AI可能是一個(gè)幻想。事實(shí)上，Gartner預(yù)測(cè)，到2022年，由于數(shù)據(jù)，算法或技術(shù)的偏差，會(huì)有85%的AI項(xiàng)目交付錯(cuò)誤的結(jié)果。負(fù)責(zé)管理他們的團(tuán)隊(duì)。

“今天，沒(méi)有辦法完全消除偏見(jiàn)，”林登說(shuō)。“但是，我們必須嘗試將其減少到最小。除了諸如多種數(shù)據(jù)集之類(lèi)的技術(shù)解決方案外，確保與AI合作的團(tuán)隊(duì)的多樣性并讓團(tuán)隊(duì)成員互相評(píng)審工作也至關(guān)重要。這個(gè)簡(jiǎn)單的過(guò)程可以大大減少選擇和確認(rèn)偏差。”

其他專(zhuān)家也回應(yīng)林登的觀點(diǎn)。

人工智能初創(chuàng)公司顧問(wèn)史蒂夫·阿迪爾( Steve Ardire)對(duì)IBM大數(shù)據(jù)和分析中心說(shuō)： “大多數(shù)人認(rèn)為算法是客觀的-但在很大程度上，它們是嵌入在代碼中的觀點(diǎn)，其中還包含偏差 。” “我們必須在算法中開(kāi)發(fā)有效的機(jī)制，以過(guò)濾偏見(jiàn)并將倫理學(xué)納入AI中，并能夠在各行之間閱讀以接近常識(shí)推理。”

數(shù)據(jù)科學(xué)家希波克拉底誓言

良好的數(shù)據(jù)實(shí)踐超越了精確的算法。關(guān)于數(shù)據(jù)分析和AI中的隱私和道德規(guī)范的問(wèn)題越來(lái)越多。諸如歐盟《通用數(shù)據(jù)保護(hù)條例》之類(lèi)的立法 正在迫使公司對(duì)客戶的數(shù)據(jù)承擔(dān)更大的責(zé)任。

BrightHive幫助組織建立所謂的數(shù)據(jù)信任。BrightHive數(shù)據(jù)信任允許組織網(wǎng)絡(luò)安全，負(fù)責(zé)地和合乎道德地共享數(shù)據(jù)，進(jìn)行協(xié)作并產(chǎn)生新見(jiàn)解。

BrightHive同時(shí)提供數(shù)據(jù)信任開(kāi)發(fā)和管理。它使信任的個(gè)人網(wǎng)絡(luò)可以就數(shù)據(jù)的正確使用進(jìn)行溝通和協(xié)作。數(shù)據(jù)信任關(guān)系的所有成員都參與數(shù)據(jù)的管理和控制。一個(gè)學(xué)習(xí)社區(qū)有助于在成員組織之間發(fā)展“數(shù)據(jù)能力”。數(shù)據(jù)信任已嵌入了社區(qū)開(kāi)發(fā)的數(shù)據(jù)使用道德原則。

埃文斯·哈里斯(Evans Harris)表示：“我們需要認(rèn)識(shí)到隱私不僅僅是病毒防護(hù)，還需要在使用此數(shù)據(jù)的個(gè)人，社區(qū)和公司之間建立信任。” “答案是我們?nèi)栽趯ふ业拇鸢浮Ｎ艺J(rèn)為其中很大一部分只是人力資本。”

BrightHive，彭博社(Bloomberg LP)和 民主數(shù)據(jù) 合作開(kāi)展了一項(xiàng)名為“道德數(shù)據(jù)共享社區(qū)原則”的計(jì)劃。它旨在為數(shù)據(jù)科學(xué)家開(kāi)發(fā)“希波克拉底誓言”。