人工智能和機器學習(AI / ML)日益改變著醫(yī)療保健行業(yè)。從發(fā)現(xiàn)惡性腫瘤到讀取CT掃描和乳房X線照片，基于AI / ML的技術比傳統(tǒng)設備(甚至是最好的醫(yī)生)更快，更準確。但是，隨之而來的是新的風險和監(jiān)管挑戰(zhàn)。

INSEAD決策科學助理教授鮑里斯·巴比奇(Boris Babic)最近在《科學》雜志上發(fā)表了最新文章“醫(yī)學領域的監(jiān)管鎖定算法” 。INSEAD決策科學與技術管理教授Theodoros Evgeniou;哈佛大學法學院Petrie-Flom衛(wèi)生法政策，生物技術和生物倫理學研究中心的研究員Sara Gerke;哈佛大學法學院教授兼Petrie-Flom中心教務主任I. Glenn Cohen著眼于監(jiān)管機構應對AI / ML陌生途徑的新挑戰(zhàn)。

他們考慮以下問題：在開發(fā)和實施AI / ML設備時，我們面臨哪些新風險?應該如何管理它們?監(jiān)管機構需要關注哪些因素才能確保以最小的風險實現(xiàn)最大價值?

到目前為止，食品藥品監(jiān)督管理局(FDA)等監(jiān)管機構已批準具有“鎖定算法”的基于醫(yī)學AI / ML的軟件，即每次提供相同結果且不會隨使用而改變的算法。但是，大多數(shù)AI / ML技術的關鍵優(yōu)勢和潛在優(yōu)勢來自其隨著模型對新數(shù)據(jù)的學習而發(fā)展的能力。由于AI / ML的緣故，這些“自適應算法”成為可能，從而創(chuàng)建了本質(zhì)上為學習型醫(yī)療保健系統(tǒng)的系統(tǒng)，其中研究與實踐之間的界限是多孔的。

鑒于此自適應系統(tǒng)的巨大價值，當今的監(jiān)管者面臨的一個基本問題是，授權是否應僅限于已提交并評估為安全有效的技術版本，或者它們是否允許將更大價值的算法推向市場?？梢詮脑摷夹g的學習能力和適應新條件中找到。

作者深入研究了與此更新問題相關的風險，考慮了需要重點關注的特定領域以及解決挑戰(zhàn)的方式。

他們說，強有力的監(jiān)管的關鍵是要優(yōu)先進行持續(xù)的風險監(jiān)測。

這組作者說：“為了管理風險，監(jiān)管者應該特別關注持續(xù)監(jiān)控和風險評估，而不是計劃將來的算法變更。”

隨著監(jiān)管機構的向前發(fā)展，作者建議他們開發(fā)新的流程，以不斷監(jiān)控，識別和管理相關風險。他們提出了可能有助于此目的的關鍵元素，并且將