您會(huì)信任機(jī)器人外科醫(yī)生嗎?機(jī)器人飛行員，售貨員或應(yīng)急人員呢?如果他們有能力適應(yīng)和改變他們的運(yùn)作方式，您會(huì)信任他們嗎?如何使他們值得信賴?這些是驅(qū)動(dòng)布里斯托大學(xué)的社會(huì)科學(xué)家，倫理學(xué)家，計(jì)算機(jī)科學(xué)家和工程師團(tuán)隊(duì)的一些問題。

該團(tuán)隊(duì)由英國(guó)研究與創(chuàng)新(UKRI)提供了300萬英鎊的資助，他們正在匯集他們的專業(yè)知識(shí)，以探索自主系統(tǒng)(決策機(jī)器獨(dú)立于人類控制器的行為)如何以安全，可靠和有彈性的方式運(yùn)行。11月看到他們開始了一個(gè)為期三年半的項(xiàng)目，該項(xiàng)目將側(cè)重于用于設(shè)計(jì)和開發(fā)自主系統(tǒng)不斷發(fā)展的功能的過程。

最終，這些發(fā)現(xiàn)可能會(huì)影響旨在幫助現(xiàn)代生活的技術(shù)的發(fā)展，從提高工業(yè)生產(chǎn)率到緊急響應(yīng)系統(tǒng)再到機(jī)器人手術(shù)。

值得信賴的系統(tǒng)實(shí)驗(yàn)室負(fù)責(zé)人，布里斯托機(jī)器人實(shí)驗(yàn)室的機(jī)器人安全性驗(yàn)證與研究主題的負(fù)責(zé)人Kerstin Eder教授是參與研究的六位研究人員之一。她說：“從汽車的牽引力控制系統(tǒng)到手機(jī)和計(jì)算機(jī)的AI助手，這種技術(shù)已經(jīng)存在于我們身邊。這些系統(tǒng)中有一些是非?？深A(yù)測(cè)的，并且只會(huì)執(zhí)行其編程要執(zhí)行的操作，但這意味著它們無法適應(yīng)和更改不斷變化的環(huán)境。其他人則能夠適應(yīng)自己的功能，實(shí)時(shí)響應(yīng)環(huán)境變化或用戶需求，而不僅僅是他們的初始設(shè)置。這可以使它們更有用，但也難以預(yù)測(cè)。”

團(tuán)隊(duì)的另一位成員布里斯托爾醫(yī)學(xué)倫理學(xué)中心副主任喬納森·艾夫斯博士解釋說：“這提出了有關(guān)安全性，責(zé)任感和信任的重要問題。我們?cè)诳深A(yù)見的情況下學(xué)會(huì)信任技術(shù)。但是，要學(xué)會(huì)信任功能正在變化的技術(shù)可能會(huì)很困難。我們?nèi)绾尾拍苄湃我粋€(gè)設(shè)計(jì)無法預(yù)測(cè)的系統(tǒng)?”

UKRI的資金是一項(xiàng)全國(guó)項(xiàng)目的一部分，該項(xiàng)目涉及六個(gè)與中央樞紐相連的獨(dú)立小組。六個(gè)組或“節(jié)點(diǎn)”中的每一個(gè)都將探索自治系統(tǒng)的不同方面：信任，彈性，安全性，功能性，可驗(yàn)證性以及治理和法規(guī)。

布里斯托爾團(tuán)隊(duì)將專注于功能性;創(chuàng)建流程來開發(fā)能夠使其功能適應(yīng)現(xiàn)實(shí)條件的技術(shù)。該團(tuán)隊(duì)將專注于三種以根本不同的方式進(jìn)行適應(yīng)的技術(shù)：群體系統(tǒng)(多個(gè)機(jī)器人共同解決問題的努力，就像一群螞蟻或蜜蜂一樣)，軟機(jī)器人技術(shù)(類似于生物體的靈活，順應(yīng)性組件)和無人飛行器(UAV，又稱無人機(jī))。研究如此多樣的技術(shù)挑戰(zhàn)將使他們的發(fā)現(xiàn)具有廣泛的影響和應(yīng)用。

Shane Windsor博士是該項(xiàng)目的負(fù)責(zé)人，他是航空航天工程學(xué)系生物啟發(fā)的飛行動(dòng)力學(xué)和控制領(lǐng)域的專家，他說：“使用常規(guī)系統(tǒng)，一旦它們離開工廠，我們就知道他們將要做什么，因?yàn)樗鼈冇性O(shè)定的規(guī)范，我們有設(shè)定的標(biāo)準(zhǔn)。對(duì)于自治系統(tǒng)，由于能夠適應(yīng)其環(huán)境變化來適應(yīng)其功能，我們需要一種自適應(yīng)方法來響應(yīng)系統(tǒng)性能或運(yùn)行環(huán)境的變化。

“我們的主要重點(diǎn)是調(diào)查我們?nèi)绾蝿?chuàng)建可以建立對(duì)這些系統(tǒng)的信任的流程，而不只是構(gòu)建技術(shù)本身。我們必須充滿信心，已經(jīng)考慮了使它們?cè)诂F(xiàn)實(shí)世界中有效運(yùn)行所需的所有方面，而這需要我們從開發(fā)過程的開始就開始。”

該項(xiàng)目的主要優(yōu)勢(shì)之一是應(yīng)用“行動(dòng)研究”模型-一種集成方法，該方法將使來自多個(gè)領(lǐng)域的專家參與周期性反饋循環(huán)，從而為該項(xiàng)目，人員和流程創(chuàng)造機(jī)會(huì)每一步的表現(xiàn)。

通過計(jì)劃的公眾參與活動(dòng)，并通過建立利益相關(guān)者和合作伙伴網(wǎng)絡(luò)(最終將成為未來可信賴的自治系統(tǒng)的開發(fā)者和用戶)，該方法將進(jìn)一步擴(kuò)大團(tuán)隊(duì)的能力，以測(cè)試技術(shù)，社會(huì)和道德影響。