6月6日 消息:一項(xiàng)來自卡內(nèi)基梅隆大學(xué)和史蒂文斯理工學(xué)院的研究表明，他們提出了一種新的思考人工智能決策公平性的方法。研究者們借鑒了一種名為 "社會(huì)福利優(yōu)化" 的傳統(tǒng)方法，通過關(guān)注個(gè)體的整體利益和危害來做出更公平的決策。這一方法可以用于評(píng)估人工智能決策的公平性，并著眼于受保護(hù)群體的批準(zhǔn)率。

人工智能社區(qū)一直試圖確保在經(jīng)濟(jì)水平、種族、民族背景、性別等不同群體之間實(shí)現(xiàn)公平待遇。傳統(tǒng)的公平方法可能只關(guān)注確保來自不同群體的人以相同比例獲得批準(zhǔn)。然而，如果拒絕抵押貸款申請(qǐng)對(duì)弱勢(shì)群體產(chǎn)生的負(fù)面影響遠(yuǎn)大于對(duì)優(yōu)勢(shì)群體的影響，該如何處理呢?通過采用社會(huì)福利優(yōu)化方法，人工智能系統(tǒng)可以做出對(duì)每個(gè)人都更有利的決策，尤其是對(duì)弱勢(shì)群體。

這項(xiàng)研究的重點(diǎn)是 "阿爾法公平"，即在追求公平和為每個(gè)人謀求最大利益之間尋找平衡的方法。阿爾法公平可以根據(jù)具體情況進(jìn)行調(diào)整，以平衡公平性和效率。研究者們展示了如何使用社會(huì)福利優(yōu)化來比較當(dāng)前在人工智能中使用的不同群體公平性評(píng)估方法。通過這種方法，我們可以了解在不同情況下應(yīng)用不同群體公平性工具的好處。同時(shí)，這一研究還將群體公平性評(píng)估工具與經(jīng)濟(jì)學(xué)和工程學(xué)中使用的更廣泛的公平效率標(biāo)準(zhǔn)聯(lián)系起來。

這項(xiàng)研究對(duì)于人工智能系統(tǒng)的開發(fā)者和政策制定者來說具有重要意義。開發(fā)者們可以通過采用更廣泛的公平方法并了解公平措施的局限性，創(chuàng)建更加公平和有效的人工智能模型。此外，研究還強(qiáng)調(diào)了在人工智能發(fā)展中考慮社會(huì)公正的重要性，確保技術(shù)能夠促進(jìn)社會(huì)不同群體之間的公平。該論文已發(fā)表在國(guó)際會(huì)議上，并引起了廣泛的關(guān)注。

這項(xiàng)研究為人工智能領(lǐng)域帶來了新的思考方式，可以幫助實(shí)現(xiàn)更公平的人工智能決策。通過關(guān)注整體利益和危害，人工智能系統(tǒng)可以更好地服務(wù)于每個(gè)人，特別是那些處于弱勢(shì)地位的群體。隨著這一研究的進(jìn)一步發(fā)展，我們有望在人工智能領(lǐng)域取得更大的進(jìn)步，讓人工智能對(duì)每個(gè)人都更加公平和有益。