人工智能(AI)和機(jī)器學(xué)習(xí)程序的偏見已經(jīng)建立。北卡羅萊納州立大學(xué)和賓夕法尼亞州立大學(xué)的研究人員現(xiàn)在建議軟件開發(fā)人員將“女權(quán)主義設(shè)計思想”的概念納入其開發(fā)過程中，以提高公平性，特別是在招聘過程中使用的軟件開發(fā)中。

北卡羅萊納州大學(xué)信息系統(tǒng)/技術(shù)教授，大學(xué)教授Fay Payton表示：“似乎有無數(shù)關(guān)于AI偏見正在以何種方式表現(xiàn)出來的故事，并且有許多關(guān)于導(dǎo)致這種偏見的因素的思想研究。”州。“我們的目標(biāo)是提出可用于開發(fā)可行解決方案的指南，以解決針對IT勞動力中女性，非裔美國人和拉丁裔專業(yè)人員的算法偏見。

論文的共同主要作者佩頓說：“太多的現(xiàn)有聘用算法結(jié)合了事實上的身份標(biāo)記，由于其性別，種族，種族，年齡等因素而排除了合格的候選人。” “我們只是在尋求公平-求職者能夠平等地參與招聘過程。”

佩頓和她的合作者認(rèn)為，一種稱為女性主義設(shè)計思維的方法可以作為開發(fā)軟件的有價值的框架，從而以有意義的方式減少算法偏差。在這種情況下，女權(quán)主義設(shè)計思想的應(yīng)用意味著將公平的思想納入算法本身的設(shè)計中。

該論文的共同主要作者，《紐約時報》副教授Lynette Yarger表示：“算法偏差的影響是婦女在歷史上的代表性不足，Black和Latinx軟件工程師根據(jù)她們的實際經(jīng)驗提供了有關(guān)公平設(shè)計方法的新穎見解。”賓夕法尼亞州立大學(xué)的信息科學(xué)與技術(shù)。

佩頓說：“從本質(zhì)上講，這種方法意味著要開發(fā)出一種算法，該算法重視跨性別，種族和種族的包容性和公平性。” “這種方法的實際應(yīng)用是開發(fā)和實現(xiàn)一種算法創(chuàng)建過程，設(shè)計師可以在其中考慮包括女性在內(nèi)的受眾，其中包括黑人，包括拉丁裔。從本質(zhì)上講，所有背景的開發(fā)人員都應(yīng)積極參與。考慮和評價與自己不同的人。

“要明確，這不僅僅是做某件事，因為它在道德上是正確的。但是我們知道，女性，非裔美國人和拉丁裔人在IT領(lǐng)域的代表性不足。而且有充分的證據(jù)表明，多元化的包容性勞動力可以改善公司的底線。” Payton說。“如果您能做正確的事并提高利潤率，那為什么不呢?”