針對(duì)在招聘、大學(xué)招生、預(yù)測(cè)性警務(wù)、健康干預(yù)等方面使用的工具存在不公平和偏見(jiàn)的說(shuō)法，明尼蘇達(dá)大學(xué)最近制定了一套新的人工智能工具審計(jì)指南。

審計(jì)指南發(fā)表在AmericanPsychologist上，由明尼蘇達(dá)大學(xué)心理學(xué)副教授RichardLanders和普渡大學(xué)TaraBehrend共同制定。他們應(yīng)用一個(gè)世紀(jì)的研究和專業(yè)標(biāo)準(zhǔn)來(lái)衡量心理學(xué)和教育研究人員的個(gè)人特征，以確保人工智能的公平性。

研究人員首先通過(guò)三個(gè)主要關(guān)注點(diǎn)考慮公平和偏見(jiàn)的想法，從而制定了人工智能審計(jì)指南：

使用這些鏡頭，研究人員將心理審計(jì)作為一種標(biāo)準(zhǔn)化方法來(lái)評(píng)估人工智能系統(tǒng)的公平性和偏見(jiàn)，這些系統(tǒng)在招聘和大學(xué)錄取等高風(fēng)險(xiǎn)應(yīng)用領(lǐng)域?qū)θ祟愡M(jìn)行預(yù)測(cè)。

審計(jì)框架有十二個(gè)組成部分，分為三個(gè)類別，包括：

與AI的創(chuàng)建、處理和預(yù)測(cè)相關(guān)的組件

與AI的使用方式、其決策影響的對(duì)象以及原因相關(guān)的組件

與總體挑戰(zhàn)相關(guān)的組成部分：使用人工智能的文化背景、對(duì)受其影響的人的尊重以及人工智能提供者用來(lái)支持其主張的研究的科學(xué)完整性

“人工智能的使用，尤其是在招聘方面，是一種已有數(shù)十年歷史的做法，但人工智能技術(shù)的最新進(jìn)展為人工智能開(kāi)發(fā)人員創(chuàng)造了一種‘狂野西部’的感覺(jué)，”蘭德斯說(shuō)。“現(xiàn)在有大量的初創(chuàng)公司不熟悉現(xiàn)有的使用算法雇用人員的道德和法律標(biāo)準(zhǔn)，而且由于不了解既定做法，他們有時(shí)會(huì)傷害人們。我們開(kāi)發(fā)了這個(gè)框架來(lái)幫助通知這些公司和相關(guān)監(jiān)管機(jī)構(gòu)。”

研究人員建議內(nèi)部審計(jì)師在開(kāi)發(fā)高風(fēng)險(xiǎn)預(yù)測(cè)性人工智能技術(shù)期間以及之后由獨(dú)立的外部審計(jì)師遵循他們制定的標(biāo)準(zhǔn)。任何聲稱就應(yīng)該如何對(duì)待人們提出有意義的建議的系統(tǒng)都應(yīng)該在這個(gè)框架內(nèi)進(jìn)行評(píng)估。

“工業(yè)心理學(xué)家在評(píng)估高風(fēng)險(xiǎn)評(píng)估方面擁有獨(dú)特的專業(yè)知識(shí)，”貝倫德說(shuō)。“我們的目標(biāo)是讓基于人工智能的評(píng)估的開(kāi)發(fā)人員和用戶了解現(xiàn)有的公平和有效性要求，并指導(dǎo)未來(lái)制定保護(hù)工人和申請(qǐng)人的政策。”

人工智能模型發(fā)展如此迅速，很難跟上審計(jì)特定類型人工智能系統(tǒng)的最合適方式。研究人員希望為特定用例制定更精確的標(biāo)準(zhǔn)，與全球其他有興趣將審計(jì)作為這些情況下的默認(rèn)方法的組織合作，并努力在更廣泛的范圍內(nèi)與人工智能一起創(chuàng)造更美好的未來(lái)。