為了解決人工智能中的偏見問題，普林斯頓大學(xué)和斯坦福大學(xué)的計算機(jī)科學(xué)家已經(jīng)開發(fā)出方法來獲取包含人的圖像的更公平的數(shù)據(jù)集。研究人員提出了對ImageNet的改進(jìn)，ImageNet是一個包含1400萬張圖像的數(shù)據(jù)庫，在過去十年中，它在推進(jìn)計算機(jī)視覺方面發(fā)揮了關(guān)鍵作用。

ImageNet包含對象，風(fēng)景以及人物的圖像，可作為培訓(xùn)數(shù)據(jù)的來源，供研究人員創(chuàng)建機(jī)器學(xué)習(xí)算法以對圖像進(jìn)行分類或識別其中的元素。ImageNet規(guī)?？涨?，需要自動圖像收集和眾包圖像注釋。盡管研究團(tuán)體很少使用數(shù)據(jù)庫的人員類別，但是ImageNet團(tuán)隊一直在努力解決偏見和其他有關(guān)圖像的擔(dān)憂，這些圖像所包含的圖像是ImageNet構(gòu)造的意外結(jié)果。

普林斯頓大學(xué)計算機(jī)科學(xué)助理教授Olga Russakovsky說：“計算機(jī)視覺現(xiàn)在真的很好用，這意味著它已在各種環(huán)境中遍及整個地方。” “這意味著現(xiàn)在是時候談?wù)撍鼘κ澜绠a(chǎn)生什么樣的影響并思考這些公平問題了。”

在一篇新論文中，ImageNet團(tuán)隊系統(tǒng)地識別了ImageNet的人員類別中的非視覺概念和令人討厭的類別，例如種族和性別特征，并建議將其從數(shù)據(jù)庫中刪除。研究人員還設(shè)計了一種工具，該工具允許用戶指定和檢索按年齡，性別表達(dá)或膚色平衡的人的圖像集，其目的是促進(jìn)更公平地對人的臉部和活動進(jìn)行圖像分類的算法。研究人員于1月30日在西班牙巴塞羅那舉行的計算機(jī)協(xié)會關(guān)于公平性，問責(zé)制和透明度的會議上介紹了他們的工作。

Russakovsky說：“非常需要具有核心技術(shù)專長的研究人員和實驗室來進(jìn)行此類對話。” “鑒于現(xiàn)實，我們需要大規(guī)模收集數(shù)據(jù)，因為這將是最有效，最完善的管道，因此需要通過眾包來完成，我們該如何以更公平的方式做到這一點呢?會陷入這些先驗陷阱嗎?本文的核心信息是關(guān)于建設(shè)性的解決方案。”