四臂手術(shù)機(jī)器人

 

隨著人工智能和機(jī)器學(xué)習(xí)的發(fā)展，機(jī)器人越來(lái)越多地承擔(dān)起更加重要的工作，如外科手術(shù)、自動(dòng)駕駛、戰(zhàn)場(chǎng)作戰(zhàn)，甚至能決定人類(lèi)的生死，那么——我們能信賴機(jī)器人嗎？

 

按大眾對(duì)機(jī)器人的理解，它們要么是近乎完美的忠誠(chéng)管家，要么是精神變態(tài)的狡詐殺手，就像《星球大戰(zhàn)》里的C3PO、《機(jī)械姬》里的艾娃、《禁閉行星》里的羅比或《太空漫游》里的哈爾。雖說(shuō)這些描寫(xiě)只不過(guò)反映了人類(lèi)自己的希望和恐懼，但至少這些恐懼已開(kāi)始進(jìn)入現(xiàn)實(shí)。

 

近年來(lái)，許多科技界名人表達(dá)了他們對(duì)人工智能橫行世界的憂慮：擁有超級(jí)智能的機(jī)器人建立了一個(gè)新世界，人類(lèi)不再是這個(gè)新世界里的主角，他們被奴役、殺戮甚至滅絕。這些恐怖場(chǎng)景和幾十年前科幻小說(shuō)家們幻想的差別不大，卻引起了人們的廣泛關(guān)注，甚至包括斯蒂芬·霍金、比爾·蓋茨、埃隆·馬斯克等科技名人。

 

人類(lèi)和機(jī)器正形成一種新的關(guān)系。在不久的將來(lái)，我們會(huì)開(kāi)始對(duì)那些具有高度自主性、完全自動(dòng)化的機(jī)器人系統(tǒng)委以重任，如駕駛汽車(chē)、執(zhí)行手術(shù)，甚至在戰(zhàn)爭(zhēng)中選擇何時(shí)使用致命性武器。這是人類(lèi)第一次在面對(duì)復(fù)雜、變動(dòng)和無(wú)序環(huán)境時(shí)，通過(guò)對(duì)機(jī)器編程而不是直接控制來(lái)做出生死決擇。

 

毫無(wú)疑問(wèn)，機(jī)器人并不完美，它們也會(huì)犯錯(cuò)，甚至可能造成人類(lèi)傷亡。但可以確定的是，這一新興科技將給人類(lèi)帶來(lái)前所未有的發(fā)展前景。屆時(shí)，我們將面對(duì)的挑戰(zhàn)涵蓋技術(shù)、法規(guī)甚至哲學(xué)范疇，除了法典和政策問(wèn)題，新的機(jī)器人還迫使我們面對(duì)更深的道德難題，甚至改變對(duì)自我的認(rèn)識(shí)。但最終，這個(gè)世界會(huì)因機(jī)器人時(shí)代的到來(lái)而變得更加美好。

 

手術(shù)機(jī)器人達(dá)·芬奇

 

精準(zhǔn)高效的外科手術(shù)機(jī)器人

 

目前，外科醫(yī)生已可以利用機(jī)器手臂來(lái)做復(fù)雜的手術(shù)。美國(guó)紐約大學(xué)機(jī)器人手術(shù)中心主管邁克爾·斯蒂夫曼已做過(guò)上千例機(jī)器人輔助手術(shù)。他在控制臺(tái)操縱著機(jī)械臂，每個(gè)機(jī)械臂都通過(guò)一個(gè)約5毫米寬的微小切口伸入病人體內(nèi)，只要旋轉(zhuǎn)自己的手腕，捏緊手指，伸入病人體內(nèi)的機(jī)械臂就會(huì)精準(zhǔn)地執(zhí)行同樣動(dòng)作。

 

他引導(dǎo)著兩只手臂給一根線打結(jié)，操縱第三只手臂用針穿過(guò)病人腎臟，將切除腫瘤后留下的洞縫在一起，第四只手臂則拿著內(nèi)窺鏡將病人腹腔內(nèi)的情況呈現(xiàn)在顯示屏上。

 

斯蒂夫曼是位受過(guò)高等訓(xùn)練的專(zhuān)家，有高超的技能和判斷，然而，他正在把寶貴的時(shí)間花在縫合上。這只是主手術(shù)的后續(xù)整理工作，如果機(jī)器人能接手這項(xiàng)單調(diào)機(jī)械的任務(wù)，外科醫(yī)生就能騰出手來(lái)做更重要的事。

 

今天的手術(shù)機(jī)器人能力進(jìn)一步增強(qiáng)，手術(shù)中不僅沒(méi)有手顫，還能實(shí)施多種方案。但說(shuō)到底，機(jī)器人只是由人類(lèi)直接控制的高級(jí)工具。手術(shù)機(jī)器人公司泰坦醫(yī)療（Titan Medical）執(zhí)行副總裁丹尼斯·福勒曾是一名從業(yè)32年的外科醫(yī)生，他認(rèn)為，如機(jī)器人能代替人類(lèi)自動(dòng)做一些決策，獨(dú)立執(zhí)行分配給它們的任務(wù)，醫(yī)療行業(yè)將能更好地為人類(lèi)服務(wù)。“這種技術(shù)干預(yù)手段能增加可靠性，減少人為錯(cuò)誤。”

 

給機(jī)器人“升職”并非遙不可及的事，所需的大部分技術(shù)很快會(huì)在研究和工業(yè)實(shí)驗(yàn)中開(kāi)發(fā)出來(lái)，實(shí)驗(yàn)機(jī)器人用人體組織的橡膠模型練習(xí)縫合、清洗傷口、切除腫瘤等。在一些實(shí)驗(yàn)中，機(jī)器人能比得上人，有些甚至比人更加精確、高效。就在上個(gè)月，華盛頓一家醫(yī)院展示了一個(gè)機(jī)器人系統(tǒng)縫合的豬小腸組織，讓人執(zhí)行同樣手術(shù)進(jìn)行比較發(fā)現(xiàn)，機(jī)器人縫得更均勻、更細(xì)密。

 

雖然這些系統(tǒng)還沒(méi)準(zhǔn)備好用于病人，但它們代表了未來(lái)手術(shù)的發(fā)展方向。同樣的邏輯也適用于操作室和裝配流水線，如果高自動(dòng)化能提高工作效果，那就沒(méi)什么能阻止它。

 

肥胖癥治療醫(yī)生、倫敦帝國(guó)學(xué)院講師休丹·阿什拉芬對(duì)機(jī)器人手術(shù)的結(jié)果進(jìn)行了研究。他認(rèn)為，在可預(yù)見(jiàn)的將來(lái)，手術(shù)機(jī)器人將會(huì)在醫(yī)生指令下處理簡(jiǎn)單的任務(wù)?！拔覀兊哪繕?biāo)是提高術(shù)后效果。如果用機(jī)器人能挽救生命、降低風(fēng)險(xiǎn)，那用這種設(shè)備就是義不容辭的?！?/span>

 

展望未來(lái)，醫(yī)學(xué)界最終會(huì)使用下一代機(jī)器人——有決策權(quán)的人工智能。這種機(jī)器人不僅能處理常規(guī)任務(wù)，還能接管整個(gè)手術(shù)。雖然現(xiàn)在看起來(lái)還不太可能，但技術(shù)創(chuàng)新會(huì)很自然地把人們引領(lǐng)到那里。阿什拉芬說(shuō)：“這是一步步實(shí)現(xiàn)的，雖然每一步都不是特別大。正如50年前的醫(yī)生想象不出現(xiàn)在手術(shù)室的樣子，從現(xiàn)在起再過(guò)50年，估計(jì)又是另一番景象?！?/span>

 

其實(shí)手術(shù)機(jī)器人已經(jīng)能自己做決定，獨(dú)立性比人們所想的更強(qiáng)。比如，在視力矯正手術(shù)中，機(jī)器人系統(tǒng)切下病人一小片角膜，并通過(guò)一系列激光脈沖重塑其內(nèi)層；膝關(guān)節(jié)置換手術(shù)中，用自主機(jī)器人切割骨骼比醫(yī)生更精確；在頭發(fā)移植手術(shù)中，智能機(jī)器人能識(shí)別并采集病人頭部堅(jiān)固的頭發(fā)毛囊，然后在禿斑頭皮部位打下精密小孔，幫醫(yī)生省下許多單調(diào)、費(fèi)時(shí)的重復(fù)勞動(dòng)。

 

那些涉及到胸腔、腹腔和盆腔部位的手術(shù)要面對(duì)更復(fù)雜的挑戰(zhàn)，因?yàn)槊總€(gè)病人的生理結(jié)構(gòu)都有所不同，自主機(jī)器人必須能很好地識(shí)別各種又濕又軟的內(nèi)部器官和血管；而且在手術(shù)中，病人的各部分內(nèi)臟都可能起變化，所以，機(jī)器人還要能不斷地調(diào)整手術(shù)計(jì)劃。

 

機(jī)器人還要有可靠地處理危機(jī)的能力。比如，在腫瘤切除手術(shù)中突遇大出血，它必須能及時(shí)、正確地處理。手術(shù)中會(huì)出現(xiàn)各種不可預(yù)期的復(fù)雜情況，機(jī)器人成像系統(tǒng)和計(jì)算機(jī)視覺(jué)首先要能識(shí)別，并通過(guò)噴出紅色液體提示這種情況的嚴(yán)重性；下一步，其決策軟件要能找出處理這種問(wèn)題的最佳方案，然后指令系統(tǒng)迅速將這一方案付諸行動(dòng)；最后由評(píng)估程序來(lái)評(píng)價(jià)結(jié)果，確定是否還需進(jìn)一步行動(dòng)。讓手術(shù)機(jī)器人掌握感知、決策、行動(dòng)和評(píng)價(jià)每一步驟，代表著對(duì)工程師的巨大挑戰(zhàn)。

 

加州大學(xué)伯克利分校機(jī)器人專(zhuān)家肯·戈德伯格讓達(dá)·芬奇機(jī)器人縫合手術(shù)切口，達(dá)·芬奇能通過(guò)“機(jī)器學(xué)習(xí)”軟件自己學(xué)習(xí)。

 

進(jìn)入實(shí)用的“達(dá)·芬奇”系統(tǒng)

 

2013年，位于加利福尼亞州的“直覺(jué)手術(shù)”公司開(kāi)始向世界各大學(xué)機(jī)器人研究人員捐贈(zèng)“達(dá)·芬奇”手術(shù)機(jī)器人系統(tǒng)，每臺(tái)造價(jià)高達(dá)250萬(wàn)美元，它也是美國(guó)監(jiān)管機(jī)構(gòu)批準(zhǔn)的軟組織手術(shù)系統(tǒng)。目前，全世界有超過(guò)3600家醫(yī)院安裝了“達(dá)·芬奇”系統(tǒng)。但它的商業(yè)之路并非一帆風(fēng)順，曾因輕微事故而面臨訴訟。盡管充滿了爭(zhēng)議，很多醫(yī)院和病人已經(jīng)接受了這種技術(shù)。

 

“達(dá)·芬奇”處在人類(lèi)醫(yī)生的完全控制之下，除非醫(yī)生在控制臺(tái)上抓住操縱桿，否則其手臂只是毫無(wú)生氣的塑料和金屬片。該公司先進(jìn)系統(tǒng)研發(fā)部經(jīng)理西蒙·迪邁奧說(shuō)，目前他們打算保持這種現(xiàn)狀。但機(jī)器人專(zhuān)家正在面向未來(lái)努力，讓醫(yī)生在做手術(shù)時(shí)有越來(lái)越多的輔助工具或計(jì)算機(jī)引導(dǎo)。

 

迪邁奧指出，這一領(lǐng)域的研究就像早期的自動(dòng)駕駛汽車(chē)，“第一步是識(shí)別道路標(biāo)志、障礙物、汽車(chē)和行人，”下一步是讓汽車(chē)來(lái)幫助司機(jī)。比如，智能汽車(chē)會(huì)感知周?chē)?chē)輛的位置，在司機(jī)錯(cuò)誤變道時(shí)發(fā)出提醒。同樣，手術(shù)機(jī)器人可在醫(yī)生的手術(shù)器具偏離常規(guī)路徑時(shí)發(fā)出警示。

 

加州大學(xué)伯克利分校自動(dòng)化科學(xué)與工程實(shí)驗(yàn)室主管肯·戈德伯格也在訓(xùn)練他的“達(dá)·芬奇”獨(dú)立執(zhí)行手術(shù)任務(wù)。目前，它的縫合技術(shù)已相當(dāng)靈巧，它能一只手臂拉線通過(guò)模型傷口兩邊，另一只手臂通過(guò)拉針把線繃緊，無(wú)需人類(lèi)引導(dǎo)而開(kāi)始縫下一針。它通過(guò)位置傳感與攝像技術(shù)計(jì)算每次進(jìn)出針的最佳位置，計(jì)劃并跟蹤行針軌跡。但任務(wù)還是很艱巨，據(jù)報(bào)告，它目前只能完成四針程序的50%，而且還不會(huì)給線打結(jié)。

 

戈德伯格說(shuō)，現(xiàn)在他們使用機(jī)器學(xué)習(xí)算法采集視覺(jué)和運(yùn)動(dòng)學(xué)數(shù)據(jù)，把每一針?lè)譃槎ㄎ?、推針等多個(gè)步驟，讓“達(dá)·芬奇”按順序處理。通過(guò)這種方法，它有可能學(xué)會(huì)做任何手術(shù)。

 

理論上，同樣的程序也能指導(dǎo)真正的手術(shù)。戈德伯格認(rèn)為，在今后10年內(nèi)就能實(shí)現(xiàn)簡(jiǎn)單的手術(shù)任務(wù)自動(dòng)化。但即使機(jī)器人真的能在常規(guī)手術(shù)中表現(xiàn)更好，他仍希望機(jī)器人的行動(dòng)是一種在人類(lèi)醫(yī)生“監(jiān)督下的自主”。他說(shuō)，讓機(jī)器人做長(zhǎng)時(shí)間精確且一致的工作，就像縫紉機(jī)對(duì)手工縫紉，只有機(jī)器與人合作才能成為超級(jí)醫(yī)生。

 

進(jìn)攻型無(wú)人機(jī)和射擊機(jī)器人

 

被重新定義的軍事機(jī)器人

 

捷克作家卡雷爾·恰佩克1920年發(fā)表了科幻劇作《羅素姆的萬(wàn)能機(jī)器人》，發(fā)明了“機(jī)器人”一詞，其最初含義是合成人類(lèi)，它們?cè)诠S長(zhǎng)時(shí)間辛苦地工作，生產(chǎn)低成本商品。然而，最終這些機(jī)器人殺死了人類(lèi)。這也是科幻小說(shuō)一直在描寫(xiě)的情節(jié)：機(jī)器人失去控制，變成不可阻擋的殺人機(jī)器。

 

現(xiàn)在，隨著人工智能的發(fā)展和機(jī)器人技術(shù)的進(jìn)步，加上伊拉克、阿富汗戰(zhàn)爭(zhēng)中無(wú)人機(jī)與地面機(jī)器人的廣泛使用，人們?cè)谡痼@之余開(kāi)始擔(dān)憂，科幻中的恐懼會(huì)變成現(xiàn)實(shí)。

 

世界最強(qiáng)大的軍隊(duì)目前正在開(kāi)發(fā)更智能的武器，這些武器將擁有不同程度的自動(dòng)化能力和殺傷力，絕大多數(shù)通過(guò)人類(lèi)遠(yuǎn)程控制。但也有人認(rèn)為，未來(lái)的人工智能武器最終會(huì)完全自動(dòng)化地操作，由集成微芯片和軟件來(lái)決定人類(lèi)的生死，這將成為戰(zhàn)爭(zhēng)史上的一道分水嶺。

 

于是，“機(jī)器人殺手”引發(fā)了激烈爭(zhēng)論：一方認(rèn)為，機(jī)器人可能開(kāi)啟一場(chǎng)世界大戰(zhàn)摧毀人類(lèi)文明；另一方則認(rèn)為，這些武器是一種新型精確制導(dǎo)武器，只會(huì)減少而不是增加傷亡。人工智能領(lǐng)域的一些主要研究人員呼吁，禁止“自主進(jìn)攻型武器超越人類(lèi)控制”。

 

去年，三位學(xué)術(shù)界名人——美國(guó)加州大學(xué)伯克利分校的斯圖爾特·羅塞爾、麻省理工學(xué)院的馬科斯·泰格馬克和澳大利亞新南威爾士大學(xué)的托比·沃什，在一次人工智能（AI）大會(huì)上組織發(fā)起了聯(lián)名請(qǐng)?jiān)?。他們?cè)诠_(kāi)信中指出，這些武器將導(dǎo)致“全球AI軍備競(jìng)賽”，用于“暗殺、破壞國(guó)家穩(wěn)定、鎮(zhèn)壓群眾和選擇性地消滅某個(gè)少數(shù)民族群體?！蹦壳埃@封信已有超過(guò)兩萬(wàn)人簽名，包括著名物理學(xué)家斯蒂芬·霍金、特斯拉CEO埃隆·馬斯克等人。馬斯克還捐了1000萬(wàn)美元給一家位于波士頓的研究所。該研究所的任務(wù)是“保衛(wèi)生命”，抵抗可能出現(xiàn)的惡意人工智能。這一事件成為世界各大媒體的新聞，甚至在12月日內(nèi)瓦聯(lián)合國(guó)裁軍談判會(huì)議上，約有100多個(gè)國(guó)家參與討論這一問(wèn)題。

 

這場(chǎng)爭(zhēng)論還擴(kuò)展到網(wǎng)絡(luò)上。人們對(duì)未來(lái)進(jìn)行了各種預(yù)測(cè)和展望，有人認(rèn)為，某種情況下還可能出現(xiàn)“出售殺傷性微型機(jī)器人的低成本大規(guī)模黑市，購(gòu)買(mǎi)者可以給它設(shè)定某些標(biāo)準(zhǔn)，不加分辨地殺死成千上萬(wàn)符合標(biāo)準(zhǔn)的人”。

 

他們?nèi)诉€指出：“自主性武器是一種潛在的大規(guī)模毀滅性武器。雖然一些國(guó)家或許不會(huì)選擇將它們用于這種目的，但這對(duì)有些國(guó)家和恐怖主義分子卻極有吸引力。”

 

造出在智能、自主和自動(dòng)化方面不斷升級(jí)的殺人機(jī)器，不管這種軍備競(jìng)賽能否更好地服務(wù)于人類(lèi)利益，也不管目前存在著多大爭(zhēng)議，實(shí)際上新一輪的AI軍備競(jìng)賽已經(jīng)開(kāi)始。

 

美國(guó)魔爪SWORDS機(jī)器人

 

悄然興起的智能化武器裝備

 

自主武器幾十年前就已出現(xiàn)，但數(shù)量較少，而且基本上都是用于防御性目的。最近，軍事供應(yīng)商開(kāi)發(fā)出了被認(rèn)為是進(jìn)攻型的自主武器。以色列航空工業(yè)公司的Harpy和Harop無(wú)人機(jī)，能朝著敵方防空系統(tǒng)發(fā)出的無(wú)線電波飛去，撞毀它們。公司稱，這種無(wú)人機(jī)已廣泛向全世界出售。韓國(guó)國(guó)防承包商DoDAAM Systems公司也開(kāi)發(fā)出了一種警衛(wèi)機(jī)器人“超級(jí)aEgis II”，裝備有機(jī)槍?zhuān)芾糜?jì)算機(jī)視覺(jué)自動(dòng)探測(cè)射擊3公里內(nèi)的目標(biāo)。據(jù)韓國(guó)軍方報(bào)告，已經(jīng)在臨朝鮮邊界的非武裝地區(qū)對(duì)這些裝備了機(jī)器人的武器進(jìn)行測(cè)試。DoDAAM Systems公司稱，他們已經(jīng)售出超過(guò)30套這種系統(tǒng)，有些買(mǎi)家在中東。目前，這種自動(dòng)系統(tǒng)的數(shù)量大大超過(guò)機(jī)器人武器。

 

有些分析師認(rèn)為，未來(lái)幾年，武器的自主程度將變得越來(lái)越高。位于華盛頓特區(qū)的一個(gè)無(wú)黨派研究機(jī)構(gòu)“新美國(guó)”的機(jī)器人戰(zhàn)爭(zhēng)專(zhuān)家彼得·辛格說(shuō)：“戰(zhàn)爭(zhēng)將會(huì)變得完全不同，自動(dòng)化將發(fā)揮重要作用，速度成為關(guān)鍵?！彼A(yù)測(cè)，未來(lái)戰(zhàn)爭(zhēng)的場(chǎng)景就像無(wú)人機(jī)之間的混戰(zhàn)，或機(jī)器人戰(zhàn)艦和敵方潛艇之間的遭遇戰(zhàn)，能提供剎那間優(yōu)勢(shì)的武器將決定戰(zhàn)爭(zhēng)的勝負(fù)?！翱赡苁歉呙芏鹊闹苯訉?duì)抗，對(duì)人類(lèi)來(lái)說(shuō)根本來(lái)不及介入，因?yàn)橹辉趲酌腌妰?nèi)一切就已發(fā)生了?！?/span>

 

美國(guó)軍方在一份無(wú)人系統(tǒng)路線圖中，對(duì)這種新型戰(zhàn)爭(zhēng)列出了一些詳細(xì)計(jì)劃，但它在武器化方面的意圖仍含糊不清。國(guó)防部長(zhǎng)羅伯特·沃克去年3月曾在一次論壇中強(qiáng)調(diào)，要在AI和機(jī)器人方面投資，并稱在戰(zhàn)場(chǎng)上出現(xiàn)越來(lái)越多的自動(dòng)化系統(tǒng)是不可避免的。

 

問(wèn)及關(guān)于自主武器時(shí)，沃克堅(jiān)持美國(guó)軍方“不會(huì)把做致命決定的權(quán)利授權(quán)給一臺(tái)機(jī)器?！钡惭a(bǔ)充說(shuō)，如果“競(jìng)爭(zhēng)對(duì)手”更愿意把這樣的權(quán)利交給機(jī)器的話，我們也不得不決定，怎樣才能最好地競(jìng)爭(zhēng)。

 

在開(kāi)發(fā)陸?？諢o(wú)人戰(zhàn)斗系統(tǒng)方面，俄羅斯也遵循同樣策略，但至少現(xiàn)在還依靠人類(lèi)操作。俄羅斯的M平臺(tái)是一種小型遙控機(jī)器人，裝備有卡拉什尼科夫步槍和榴彈發(fā)射器，類(lèi)似美國(guó)“魔爪SWORDS”系統(tǒng)（配備M16及其它武器的地面機(jī)器人）。俄羅斯還造了一個(gè)更大的無(wú)人戰(zhàn)車(chē)Uran-9，配備30毫米機(jī)關(guān)炮和反坦克導(dǎo)彈，去年還演示了一個(gè)人形戰(zhàn)士機(jī)器人。

 

聯(lián)合國(guó)一直堅(jiān)持討論致命自主機(jī)器人已近5年，但其成員國(guó)還未能起草一份協(xié)議。2013年，聯(lián)合國(guó)人權(quán)問(wèn)題特別報(bào)告員克里斯·海恩斯寫(xiě)了一份有影響的報(bào)告指出，世界各國(guó)有一個(gè)難得的機(jī)會(huì)，在自主武器大規(guī)模發(fā)展之前討論它們的風(fēng)險(xiǎn)。

 

今年12月，聯(lián)合國(guó)“特定常規(guī)武器公約”將召開(kāi)5年審查會(huì)議，致命性自主機(jī)器人的話題將提上日程，但要在會(huì)議上通過(guò)禁令是不可能的。這一決策需要所有參會(huì)國(guó)一致同意，在如何處理未來(lái)可能出現(xiàn)的泛自主武器問(wèn)題上，各國(guó)仍存在根本分歧。

 

最終，“殺手機(jī)器人”的辯論似乎更關(guān)乎人類(lèi)自身而不是機(jī)器人，自主武器也和其他任何技術(shù)一樣，至少在第一次使用時(shí)，應(yīng)該更加謹(jǐn)慎，否則會(huì)是混亂和災(zāi)難性的。像“自主作戰(zhàn)機(jī)器人是個(gè)好主意嗎？”這樣的提問(wèn)可能不太合適，更好的應(yīng)該是“我們確信自己能充分信任機(jī)器人并和它們生活在一起嗎？”

 

兼顧邏輯與道德的無(wú)人駕駛車(chē)

 

設(shè)想一下，將來(lái)的某個(gè)夜晚，一個(gè)醉醺醺的行人突然在一輛無(wú)人駕駛汽車(chē)前面摔倒，結(jié)果當(dāng)場(chǎng)被撞死。如果車(chē)?yán)镉腥?，這會(huì)被認(rèn)為是一次事故，因?yàn)樾腥孙@然有錯(cuò)，理性的司機(jī)也難以及時(shí)躲避。但到了本世紀(jì)20年代，隨著無(wú)人駕駛汽車(chē)日益普及，車(chē)禍發(fā)生的概率會(huì)減少90%，對(duì)應(yīng)司機(jī)過(guò)失的“理性人”的法律標(biāo)準(zhǔn)也會(huì)消失，對(duì)應(yīng)的標(biāo)準(zhǔn)是給“理性機(jī)器人”。

 

死者家屬會(huì)把汽車(chē)制造商告上法庭，指稱汽車(chē)雖然來(lái)不及剎車(chē)，但它應(yīng)該躲避周?chē)腥?，越過(guò)雙黃線，撞上旁邊車(chē)道上那輛空空的無(wú)人駕駛車(chē)。而根據(jù)該汽車(chē)的傳感器數(shù)據(jù)分析，再現(xiàn)撞人場(chǎng)景也確實(shí)如此。原告律師會(huì)質(zhì)問(wèn)汽車(chē)頭部軟件設(shè)計(jì)師：“為什么汽車(chē)不會(huì)轉(zhuǎn)彎？”

 

但法庭絕不會(huì)質(zhì)問(wèn)一個(gè)司機(jī)，為什么即將撞車(chē)前他不采取某個(gè)緊急措施，因?yàn)檫@是毫無(wú)意義的——司機(jī)驚慌失措無(wú)法思考，只能憑本能做事。但如果司機(jī)是個(gè)機(jī)器人，問(wèn)“為什么”就變得合理了。

 

在人類(lèi)的道德標(biāo)準(zhǔn)、有瑕疵的法典案例、各種各樣工程師想不到的假設(shè)情況中，最重要的假設(shè)是：一個(gè)有著良好判斷能力的人知道何時(shí)應(yīng)不顧文字上的法律條規(guī)，真正維護(hù)法律精神的至高無(wú)上。現(xiàn)在工程師必須做的是，把一些基本的判斷因素教給自動(dòng)駕駛汽車(chē)和其他機(jī)器人。

 

目前，在英國(guó)部分地區(qū)、德國(guó)、日本、美國(guó)4個(gè)州和哥倫比亞特區(qū)，法律已明確允許對(duì)完全自動(dòng)化車(chē)輛進(jìn)行測(cè)試，但車(chē)?yán)镞€要有一個(gè)測(cè)試司機(jī)。谷歌、日產(chǎn)、福特及其他公司也表示，他們預(yù)計(jì)在今后5到10年內(nèi)實(shí)現(xiàn)真正的無(wú)人駕駛操作。

 

自動(dòng)車(chē)輛獲得環(huán)境信息是通過(guò)一系列傳感器，如視頻攝像機(jī)、超聲波傳感器、雷達(dá)和激光雷達(dá)（激光測(cè)距）。在加利福尼亞州，申請(qǐng)自動(dòng)車(chē)測(cè)試牌照要向機(jī)動(dòng)車(chē)管理局提供碰撞前30秒的所有傳感器數(shù)據(jù)，工程師可以憑著這些數(shù)據(jù)精確重現(xiàn)碰撞事故場(chǎng)景。利用汽車(chē)的傳感器記錄，就能推知它決策背后的邏輯。發(fā)生車(chē)禍后，監(jiān)管機(jī)構(gòu)和律師能根據(jù)這些記錄，堅(jiān)稱自動(dòng)車(chē)輛有著超人的安全標(biāo)準(zhǔn)，通過(guò)了嚴(yán)格的審查。制造商和軟件開(kāi)發(fā)商也將以目前人類(lèi)司機(jī)無(wú)法想象的方式，為無(wú)人駕駛車(chē)的行為辯護(hù)。

 

所有駕駛都會(huì)涉及到風(fēng)險(xiǎn)問(wèn)題，但這些風(fēng)險(xiǎn)如何在司機(jī)、行人、騎自行車(chē)者之間分配，甚至風(fēng)險(xiǎn)的性質(zhì)都有著道德的成分。無(wú)論對(duì)工程師還是對(duì)一般公眾來(lái)說(shuō)，最重要的是自動(dòng)駕駛汽車(chē)的決策系統(tǒng)，它決定了汽車(chē)行為中所含的道德成分。

 

對(duì)于道德上模棱兩可的情況，在遵循法律的同時(shí)盡量減少損失。這種策略很有吸引力，因?yàn)樗试S開(kāi)發(fā)人員為肇事車(chē)“不作為”的行為辯護(hù)，也向立法者傳遞了定義道德行為的責(zé)任。但不幸的是，這方面的法律尚未完善。

 

在大多數(shù)國(guó)家，法律依賴于人類(lèi)的常識(shí)，對(duì)自動(dòng)駕駛汽車(chē)編程也應(yīng)遵守法律規(guī)定：不得越過(guò)雙黃線，即使有撞上一個(gè)醉漢的風(fēng)險(xiǎn)，即使另一邊車(chē)道上只有空的無(wú)人駕駛車(chē)——法律很難為緊急情況制定例外，汽車(chē)開(kāi)發(fā)商無(wú)從確定何時(shí)越過(guò)雙黃線是安全的。

 

在道路車(chē)輛自動(dòng)化倫理學(xué)上，這并非不可解的難題?？梢越梃b其他領(lǐng)域的大量案例，來(lái)安全合理地處理類(lèi)似的風(fēng)險(xiǎn)和利益。比如，給病人捐獻(xiàn)器官，依據(jù)它會(huì)帶來(lái)更有質(zhì)量的生命還是殘疾的生命，還增加了一些對(duì)社會(huì)更有用的職業(yè)。自動(dòng)駕駛車(chē)輛面臨的更大挑戰(zhàn)是，它們必須在信息不完全、程序員常?？紤]不到的情況下，利用編碼在軟件中死板的道德條規(guī)，迅速做出決定。

 

幸運(yùn)的是，公眾并沒(méi)有過(guò)分地期望超人智慧，考慮到倫理道德的復(fù)雜性，只要對(duì)自動(dòng)車(chē)行為有個(gè)合理的判斷就可以了。一種解決方案不一定要完美無(wú)瑕，但應(yīng)該是多方考慮、合情合理的。

（作者：常麗君）