Looker Inc.的商業(yè)智能軟件可用于在市中心地區(qū)更有效地部署教育資源，識別暴力的熱點并查明勞動力中的收入不平等狀況。它也可以用于種族特征，政治手段和確定恐怖襲擊的目標(biāo)。Looker的工作是選擇嗎?

首席執(zhí)行官弗蘭克·比恩(Frank Bien)認(rèn)為，至少在某種程度上是這樣。他正在提倡一個議程，稱其為“善事而不是邪惡的數(shù)據(jù)”，他愿意劃清界限。Looker不會與任何會使用其軟件來區(qū)分受保護的階級或操縱選舉結(jié)果的公司開展業(yè)務(wù)。

該公司還與員工進行持續(xù)的對話，以更好地為其軟件定義適當(dāng)和不適當(dāng)?shù)挠美?。比恩在接受采訪時說：“可能會有艱難的決定和銷售，我們可能需要屈服。” “員工想要這種清晰度，我認(rèn)為我們的首要義務(wù)在那里。”

Bien鼓勵大數(shù)據(jù)業(yè)務(wù)的同事也這樣做。他說：“我們堅信，數(shù)據(jù)科學(xué)專業(yè)人士和行業(yè)團體需要定義這個問題。” “技術(shù)供應(yīng)商將就其產(chǎn)品的使用方式做出一些艱難的決定。”

并非只有CEO呼吁大數(shù)據(jù)公司在數(shù)據(jù)責(zé)任中扮演更積極的角色。在Salesforce.com Inc.與分析師的最新財報電話會議上，首席執(zhí)行官Marc Benioff呼吁政府對分析公司和工具制造商對私人數(shù)據(jù)的使用制定更嚴(yán)格的法規(guī)。他指的是新的《歐洲通用數(shù)據(jù)隱私條例》，他說：“我們需要在制定類似于GDPR的國家隱私法。”

大數(shù)據(jù)公司Cloudera Inc.的首席Hadoop架構(gòu)師，存儲和處理大量數(shù)據(jù)的重要Hadoop軟件的創(chuàng)建者Doug Cutting多年來一直在敦促他的同時代人，在他稱為“ Pax Data ”的演示文稿中，他提出了更多建議。維權(quán)人士對數(shù)據(jù)使用的立場。

他說，在引起爭議的劍橋Analytica丑聞 和谷歌公司員工最近 抗議該公司向五角大樓出售可用于識別監(jiān)視視頻中的個人的技術(shù)的抗議之后，人們對該話題的興趣重新燃起 。谷歌周四感到被迫發(fā)布八點指導(dǎo)方針，其中包括 本周承諾不要在這種情況下武器化使用人工智能的承諾。

人們放棄自己的數(shù)據(jù)越多，被濫用的可能性就越大。“如果你看大多數(shù)科幻小說，收集數(shù)據(jù)的人就是壞人，”切特說。“我不希望這種反烏托邦式的未來成為現(xiàn)實。”

兩難的角

大多數(shù)人可能會同意，自越南戰(zhàn)爭以來，他們的國家并未在政治上出現(xiàn)兩極分化，但大數(shù)據(jù)為這一方程式注入了一個新的且可能具有致命性的因素?？梢允褂脵z測種族歧視等濫用行為的相同軟件來啟用這些功能。這就使大數(shù)據(jù)公司陷入了困境：它們是否應(yīng)在拒絕公眾輿論操縱者和仇恨販子接觸方面發(fā)揮積極作用?還是應(yīng)該將自己視為謙虛而沉默寡言的工具制造商?

如果他們是工具制造商，那么這些工具的功能是否更接近槍支或錘子?

SiliconANGLE聯(lián)系了一些最大的大數(shù)據(jù)軟件提供商以及專門收集和分析數(shù)據(jù)的組織，以收集意見。毫不奇怪，許多人拒絕接受采訪。在那些愿意記錄在案的人中，除了專利違法的產(chǎn)品以外，目前沒有人制定任何嚴(yán)格的政策來規(guī)范其產(chǎn)品的使用。但是，幾乎所有人都承認(rèn)，社會責(zé)任已成為內(nèi)部討論的一個越來越普遍的話題，而且有政治頭腦的員工的壓力促使他們更加仔細(xì)地監(jiān)視其產(chǎn)品的使用。

Gartner Inc.數(shù)據(jù)和分析小組研究主管Lydia Clougherty-J??ones說：“大數(shù)據(jù)移動正處于道德十字路口。您如何從道德上利用數(shù)據(jù)獲取價值-例如提高效率和檢測欺詐–在某種程度上也要注意道德責(zé)任?”

走一條線

Neo4j Inc.的經(jīng)驗說明了這些公司必須走的一條線。該公司的同名圖形數(shù)據(jù)庫技術(shù)使用戶能夠發(fā)現(xiàn)表面上不明顯的數(shù)據(jù)元素之間的關(guān)系。這使它成為調(diào)查性記者的最愛，他們使用圖形技術(shù)探究隱藏的聯(lián)系的拜占庭式網(wǎng)絡(luò)，這些網(wǎng)絡(luò)具有競選融資和洗錢等領(lǐng)域的特征。

Neo4j將其技術(shù)捐贈給了國際調(diào)查記者協(xié)會(International Consortium of Investigative Journalists)，用于研究《天堂文件》(Paradise Papers)?！短焯梦募肥?017年的一系列報告，介紹了公司和富人利用離岸避稅港避免繳納稅款的方式。它還參與了一個項目，以探討影響2016年大選的因素，并贊助了新聞實習(xí)。它還 指派了開發(fā)人員關(guān)系團隊的一些成員來協(xié)助記者將其技術(shù)應(yīng)用于他們的手工藝品。

Neo4j產(chǎn)品副總裁Philip Rathle說：“當(dāng)我們看到產(chǎn)品被永久使用時，我們都會非常有動力。”

但是，該公司的客戶還包括有爭議的農(nóng)業(yè)化學(xué)巨頭孟山都公司(Monsanto Co.)，一些未具名的政府機構(gòu)和用于監(jiān)視的無人機制造商。Rathle承認(rèn)：“我們沒有對它們進行太多宣傳。”但該公司認(rèn)為，其政府關(guān)系帶來的好處超過了任何可能被濫用的可能性。

像許多接受采訪的公司一樣，Neo4j由員工決定自己的舒適度，并且不會因選擇退出項目或與冒犯他們的客戶而受到懲罰。拉特爾說：“任何人都不應(yīng)被迫與一個使他們感到不舒服的組織接觸。”

灰色區(qū)域

但是，與大多數(shù)同行一樣，Neo4j拒絕制定正式政策。問題不是白人至上主義團體和恐怖組織這樣的明顯案件，而是中間的廣闊灰色地區(qū)。Talend SA首席執(zhí)行官Mike Tuchen表示：“我喜歡這樣一個概念，我們要確保工具能永遠(yuǎn)使用，但我不想站在屋頂上，而是說有一種神奇的方法來做到這一點。”

例如，除非有法院裁定特別的安排，否則就不宜采用擺渡服務(wù)(重新劃分邊界和選舉區(qū)以偏向某個政黨的候選人的做法)，這是非法的，但很多人對此表示反感。盡管高管們的政治觀點可能會使他們偏向某些自由派或保守派利益集團，但這并不是與他們不做生意的理由。

Gartner的Clougherty-J??ones說：“適當(dāng)?shù)亩x太模糊了，很難執(zhí)行。” “數(shù)據(jù)并不像商標(biāo)那樣專有，因此創(chuàng)建限制下游使用的合同具有挑戰(zhàn)性。”

不過，Looker的Bien認(rèn)為，數(shù)據(jù)責(zé)任的責(zé)任制過于滑坡，以至于難以理big大數(shù)據(jù)公司需要回答的難題。他說：“這可能是無所事事的理由。” “我們想遠(yuǎn)離一些問題，但這并不意味著我們無事可做。”

目前，非正式政策占主導(dǎo)地位。“我個人使用的測試是，如果我們的客戶審查了任何用例，我們會為他們的所作所為感到驕傲嗎?” MapR Technologies Inc.數(shù)據(jù)和應(yīng)用程序高級副總裁Jack Norris說：“我們沒有政策，但這是我們的時代精神。”

而且一些軟件公司對其產(chǎn)品的了解甚少，幾乎不可能監(jiān)視客戶的行為。例如，Talend通過多個渠道分發(fā)其集成軟件，還提供了可免費下載的開源版本。Tuchen說：“在通過渠道銷售產(chǎn)品時，試圖在全球范圍內(nèi)做出價值判斷是不切實際的。”

數(shù)據(jù)集成初創(chuàng)公司 Dremio Corp.還根據(jù)開放源代碼許可證分發(fā)其分析平臺的版本。首席營銷官Kelly Stirman表示：“您可能在您不想與之開展業(yè)務(wù)的國家/地區(qū)擁有用戶，但是在開源環(huán)境中，您對這些事情沒有了解。”

另一個極端是諸如Looker和Hortonworks Inc.的公司，它們具有廣泛的專業(yè)服務(wù)運營，應(yīng)該允許他們了解如何詳細(xì)使用其軟件。旁觀者沒有適當(dāng)?shù)臄?shù)據(jù)使用的書面政策，但它采用了合規(guī)團隊定期進行評估，以確保“使用任何數(shù)據(jù)是透明的，安全的和相互尊重的，”根據(jù)其網(wǎng)站。Hortonworks沒有回應(yīng)采訪請求。

如果沒有嚴(yán)格的指導(dǎo)方針，信任和透明度可能就足夠了。Cuting說：“我一直在鼓勵收集數(shù)據(jù)的行業(yè)建立與客戶的更多信任。” “他們可以通過定期提供審核以證明自己在做自己所說的那樣來做到這一點。”

聘請數(shù)據(jù)科學(xué)家

工具供應(yīng)商的高管們也將矛頭指向數(shù)據(jù)分析公司，因為它們是規(guī)范數(shù)據(jù)使用的更合適的人選。例如，IBM公司沒有關(guān)于如何使用其廣泛的數(shù)據(jù)庫和分析工具產(chǎn)品線的政策，但表示希望客戶做正確的事。該公司有關(guān)于如何期望其客戶對待個人信息的準(zhǔn)則，但最終將決定權(quán)交給了客戶。

正如Facebook在Cambridge Analytica違反社交網(wǎng)絡(luò)的使用條款時所發(fā)現(xiàn)的那樣，說出客戶應(yīng)該負(fù)責(zé)任的行為，并檢查以確保他們做的是不同的事情。在迅速發(fā)展的專業(yè)數(shù)據(jù)分析服務(wù)世界中，基本上沒有規(guī)則。

MariaDB Corp.首席執(zhí)行官Michael Howard說：“沒人知道Palantir在做什么。” Palantir Technologies Inc.是一家秘密公司，為許多政府機構(gòu)和公司開展復(fù)雜的大數(shù)據(jù)項目。

數(shù)據(jù)科學(xué)家的嚴(yán)重短缺迫使許多組織在不了解(或可能不關(guān)心)如何使用與承包商共享的數(shù)據(jù)的情況下，向精品公司尋求機器學(xué)習(xí)和人工智能專業(yè)知識?；羧A德稱這些公司為“不受控制的數(shù)據(jù)雇傭軍。他們不賣槍支。他們是，排和海豹突擊隊的行動，”他說。

可以理解的是，數(shù)據(jù)分析公司不愿談?wù)摯藛栴}，并且與之接觸的六家SiliconANGLE都不會發(fā)表講話。但是，Cambridge Analytica案說明了這個問題。該公司通過第三方獲得了Facebook數(shù)據(jù)的訪問權(quán)，然后未經(jīng)許可將其出售，盡管Facebook已發(fā)布禁止這樣做的信息。

公司如 段公司和澤塔互動公司 收集數(shù)以億計的消費者的數(shù)據(jù)，并代表客戶進行定制化分析在產(chǎn)品開發(fā)和市場營銷使用。沒有人指責(zé)這些公司中的任何一個做錯了事。但是他們運營的領(lǐng)域幾乎沒有規(guī)則，兩家公司的隱私政策都將保護他們收集給個人和客戶公司的數(shù)據(jù)的責(zé)任。

留給立法者嗎?

GDPR可能是一個轉(zhuǎn)折點。該法律對如何收集，使用和維護有關(guān)歐盟公民的數(shù)據(jù)施加了嚴(yán)格的規(guī)定，并對違反者處以嚴(yán)厲的懲罰。澳大利亞已經(jīng)采用了類似的規(guī)定，加拿大正在考慮這些規(guī)定。盡管沒有人期望在當(dāng)前的政治環(huán)境中采用類似的法規(guī)，但是每一次重大的數(shù)據(jù)泄露事件對政府采取行動的壓力都在增加。

大數(shù)據(jù)主管在這是否是一件好事上存在分歧。“ GDPR可能會改變游戲規(guī)則，” Looker的Bien說。“例如，關(guān)于選舉之類的事情，我們必須更加清楚數(shù)據(jù)的適當(dāng)使用和不適當(dāng)使用。GDPR是一個巨大的機會。”

但是，很少有高管想考慮大規(guī)模的政府監(jiān)管。大多數(shù)人寧愿看到金融業(yè)自己進行監(jiān)管，就像 金融業(yè)監(jiān)管局(Financial Industry Regulatory Authority Inc.)為投資專業(yè)人士所做的那樣，還是律師協(xié)會(American Bar Association)為律師所做的那樣。

Cuting說，自我監(jiān)管“從長遠(yuǎn)來看符合我們的商業(yè)利益，因為它將使整個行業(yè)蓬勃發(fā)展。” “如果消費者拒絕(或政府取締)某些類型的數(shù)據(jù)收集，那么您將禁用進度。”

在沒有自我施加的規(guī)則的情況下，透明性很可能是即時替代，但這并不一定是一件壞事。實際上，IBM在GDPR實施前夕進行的研究發(fā)現(xiàn)，合規(guī)管理人員對法規(guī)持積極態(tài)度，認(rèn)為加強問責(zé)制和對數(shù)據(jù)管理的關(guān)注會改善客戶關(guān)系。

MapR的Norris表示：“如果個人信任組織，他們更有可能共享其數(shù)據(jù)。” “信任帶來了做一些有趣的事情的能力。”

有了企業(yè)和消費者之間的信任，大數(shù)據(jù)工具看起來像槍支還是錘子就無關(guān)緊要了。最后，兩者都可以打成犁。