在當(dāng)今的商業(yè)世界中，機(jī)器學(xué)習(xí)算法越來越多地應(yīng)用于影響就業(yè)、教育和獲得信貸的決策過程。但公司通常對(duì)算法保密，理由是用戶擔(dān)心游戲會(huì)損害算法的預(yù)測(cè)能力。隨著要求公司使其算法透明的呼聲越來越高，一項(xiàng)新的研究開發(fā)了一種分析模型來比較有和沒有這種透明度的公司的利潤。該研究得出結(jié)論，算法透明度既有好處，也有風(fēng)險(xiǎn)。

該研究由卡內(nèi)基梅隆大學(xué) (CMU) 和密歇根大學(xué)的研究人員進(jìn)行，發(fā)表在《管理科學(xué)》雜志上。

“當(dāng)管理者面臨提高透明度的呼聲時(shí)，我們的研究結(jié)果可以幫助他們做出有利于公司的決策，”該研究的合著者、CMU 泰珀商學(xué)院商業(yè)技術(shù)和營銷學(xué)教授 Param Vir Singh 說。

研究人員通過開發(fā)和分析一個(gè)博弈論模型來研究算法透明度如何影響公司和求職者(也稱為代理人)，該模型捕捉了雙方在不透明和透明場(chǎng)景下的行為方式。在這樣做的過程中，作者試圖回答四個(gè)問題：1)從公司(決策者)的角度來看，即使算法可以被代理操縱，使算法透明是否有優(yōu)勢(shì)?2) 如果公司讓他們的算法透明化，代理會(huì)受到怎樣的影響?3) 那些更容易受到代理博弈影響的特征的預(yù)測(cè)能力如何影響結(jié)果?4) 市場(chǎng)構(gòu)成(就合意和不合意的代理人而言)如何影響這些結(jié)果?

該研究得出結(jié)論，算法透明度可能對(duì)經(jīng)理和公司產(chǎn)生積極影響，對(duì)代理人產(chǎn)生負(fù)面影響。在廣泛的條件下，透明度有利于公司，使他們能夠激勵(lì)代理人投資改進(jìn)對(duì)公司有價(jià)值的特征，并在某些情況下提高算法的預(yù)測(cè)能力。這挑戰(zhàn)了讓算法透明總是會(huì)在經(jīng)濟(jì)上損害公司的傳統(tǒng)觀念。

但該研究還得出結(jié)論，在算法透明的情況下，代理可能并不總是更好。公司使用算法將高類型(更理想)的代理與低類型(不太理想)的代理分開。這些算法使用理想的特征(即直接影響公司績(jī)效的因果特征，例如在招聘的情況下接受的相關(guān)教育或培訓(xùn))和通常可玩的相關(guān)特征(即與代理人類型相關(guān)但不影響公司的業(yè)績(jī)，比如認(rèn)為高類型的代理商可能更可能戴眼鏡)。

當(dāng)公司不透明算法使用的相關(guān)特征為他們提供分類優(yōu)勢(shì)時(shí)，高級(jí)代理可以避免對(duì)公司所需的昂貴特征投資不足。當(dāng)一家公司將其算法透明化時(shí)，所有代理都會(huì)在相關(guān)特征上進(jìn)行博弈，相關(guān)特征的預(yù)測(cè)能力就會(huì)消失。結(jié)果，高級(jí)代理必須投資于成本高昂的理想功能，以將自己與低級(jí)代理區(qū)分開來。

“我們的分析表明，企業(yè)在面對(duì)戰(zhàn)略性個(gè)人時(shí)，不應(yīng)總是擔(dān)心在透明度下可能喪失預(yù)測(cè)能力，”博士 Qiaochu Wang 說。CMU泰珀商學(xué)院商業(yè)技術(shù)專業(yè)的學(xué)生，??他是該研究的合著者。“相反，他們可以使用算法透明度作為杠桿來激勵(lì)代理投資于更理想的功能。”

作者指出，這項(xiàng)研究的局限性之一是，雖然它顯示了透明算法可以給公司帶來的經(jīng)濟(jì)利益，但公司可能有一些原因不想讓他們的算法透明。這些原因——包括隱私和競(jìng)爭(zhēng)——在研究中沒有得到解決。

CMU 商業(yè)技術(shù)副教授 Yan Huang 指出：“我們的模型側(cè)重于招聘場(chǎng)景，其結(jié)果可推廣到公司試圖進(jìn)一步了解或了解個(gè)人私人信息的其他場(chǎng)景。”泰珀商學(xué)院是這項(xiàng)研究的合著者。