http://bfqmb.cn 2009-07-01 14:47 來(lái)源:科技日?qǐng)?bào)
編者語(yǔ):隨著機(jī)器人越來(lái)越融入人類(lèi)社會(huì),為社會(huì)機(jī)器人制定一個(gè)法律框架的重要性就日漸明顯。在人類(lèi)與機(jī)器人和諧共處的社會(huì)到來(lái)之前,如何在人類(lèi)—機(jī)器人互動(dòng)(機(jī)器人技術(shù)開(kāi)發(fā))和社會(huì)制度設(shè)計(jì)(法律法規(guī)框架制定)之間保持平衡,是橫亙?cè)谌祟?lèi)面前最大的安全挑戰(zhàn)。
1981年,一名37歲的日本川崎制造廠(chǎng)工人浦田健司進(jìn)入安全限制區(qū)域,試圖去維修一個(gè)機(jī)器人,但倉(cāng)促之間,他并沒(méi)有將機(jī)器人完全關(guān)停。由于機(jī)器人沒(méi)有檢測(cè)到他的存在,于是,強(qiáng)大的機(jī)器人液壓臂把他拋進(jìn)一個(gè)鄰近的碾磨機(jī)內(nèi)。從此,浦田健司成了第一個(gè)記錄在案的死于機(jī)器人之手的受害者。
在最新一期國(guó)際期刊《社會(huì)機(jī)器人》上描述的上述情景,許多人也許并不認(rèn)為這是機(jī)器人失誤造成的事故。隨著機(jī)器人的使用從工業(yè)環(huán)境逐漸擴(kuò)展到現(xiàn)實(shí)生活之中,如何保證在使用機(jī)器人時(shí)的人類(lèi)安全已成為一個(gè)重要的社會(huì)和技術(shù)問(wèn)題。
目前,像日本和韓國(guó)這樣的國(guó)家正在大力推進(jìn)并預(yù)計(jì)在2030年前實(shí)現(xiàn)“人類(lèi)與機(jī)器人和諧共處的社會(huì)”。韓國(guó)預(yù)測(cè),到2020年,每個(gè)韓國(guó)家庭都將擁有一個(gè)機(jī)器人。
與那些毫無(wú)怨言地執(zhí)行重復(fù)任務(wù)的工業(yè)機(jī)器人不同的是,這些“下一代機(jī)器人”將擁有相對(duì)的自主權(quán),它們工作在一個(gè)以人為中心的環(huán)境中,如家庭護(hù)理或辦公室秘書(shū)等。當(dāng)成群的這些機(jī)器人邁開(kāi)腳步,開(kāi)始滲透到人類(lèi)的日常生活中時(shí),人類(lèi)就不得不對(duì)可能發(fā)生的安全和法律問(wèn)題作出規(guī)范。
近來(lái),研究人員就下一代機(jī)器人的安全問(wèn)題提出了一個(gè)法律體系框架。他們?cè)噲D通過(guò)“安全智能”來(lái)確保一個(gè)安全的機(jī)器人設(shè)計(jì),并提供一種在事故不可避免地發(fā)生時(shí)的處理辦法。研究人員還分析了科幻作家艾薩克·阿西莫夫在其1950年出版的短篇科幻小說(shuō)《我與機(jī)器人》中描繪的“機(jī)器人三大法則”,像大多數(shù)現(xiàn)今的機(jī)器人專(zhuān)家一樣,他們對(duì)這些法則是否足以確保機(jī)器人可安全地履行其職責(zé)同樣表示懷疑。
阿西莫夫的機(jī)器人三大法則是:一、機(jī)器人不得傷害人類(lèi),或坐視人類(lèi)受到傷害而袖手旁觀;二、除非違背第一法則,機(jī)器人必須服從人類(lèi)的命令;三、在不違背第一法則及第二法則的情況下,機(jī)器人必須保護(hù)自己。
建立機(jī)器人法律框架
研究人員提出的框架中的一個(gè)指導(dǎo)原則是將機(jī)器人歸類(lèi)為“第三存在”的實(shí)體,因?yàn)橄乱淮鷻C(jī)器人被認(rèn)為既不是生命/生物(第一存在),也不是非生命/生物(第二存在)。一個(gè)“第三存在”的實(shí)體其外在和行為類(lèi)似于生命體,但并不具有自我意識(shí)。雖然機(jī)器人目前在法律上被列為“第二存在”(屬于人類(lèi)財(cái)產(chǎn)),但研究人員認(rèn)為,“第三存在”的分類(lèi)將簡(jiǎn)化事故發(fā)生時(shí)的責(zé)任分擔(dān)處理。
將機(jī)器人融入人類(lèi)社會(huì)的一個(gè)重要挑戰(zhàn)是處理“開(kāi)放結(jié)構(gòu)風(fēng)險(xiǎn)”,此種風(fēng)險(xiǎn)發(fā)生在非結(jié)構(gòu)化環(huán)境中不可預(yù)知的相互作用。開(kāi)放結(jié)構(gòu)風(fēng)險(xiǎn)的一個(gè)例子是,讓機(jī)器人了解自然(人類(lèi))語(yǔ)言的細(xì)微差別。雖然自然語(yǔ)言中的每個(gè)詞語(yǔ)都有一個(gè)核心定義,語(yǔ)言的開(kāi)放結(jié)構(gòu)特征允許其根據(jù)外部因素作出不同解釋。作為其安全智能概念的一部分,研究人員提出了一種“法律上的機(jī)器語(yǔ)言”概念,即通過(guò)一定的準(zhǔn)則將倫理嵌入到機(jī)器人中,其目的是解決與開(kāi)放結(jié)構(gòu)風(fēng)險(xiǎn)相關(guān)的問(wèn)題,這是阿西莫夫三大法則無(wú)法具體處理的。
研究人員表示,在過(guò)去2000年的法律歷史中,人類(lèi)在法律事務(wù)中使用人類(lèi)法律語(yǔ)言來(lái)進(jìn)行交流。這些法則和準(zhǔn)則是由自然語(yǔ)言(如英語(yǔ)、漢語(yǔ)、日語(yǔ)、法語(yǔ)等)構(gòu)成的。當(dāng)阿西莫夫創(chuàng)立了機(jī)器人三大法則這個(gè)概念時(shí),他就很容易將人類(lèi)法律語(yǔ)言直接運(yùn)用于他的科幻情節(jié)中。
阿西莫夫的三大法則最初只是用于文學(xué)目的,其在法律層面上的含糊其辭使得機(jī)器人開(kāi)發(fā)者、機(jī)器人擁有者和政府之間的責(zé)任并不明晰。
在人類(lèi)不久將面臨的安全問(wèn)題上,“法律上的機(jī)器語(yǔ)言”框架必須將兩種基本構(gòu)想相結(jié)合,這兩個(gè)構(gòu)想是:“法則即法律”和“內(nèi)嵌式倫理”。在此一框架內(nèi),當(dāng)其符合阿西莫夫的三大法則時(shí),安全問(wèn)題不再只是基于機(jī)器人的自主智能。相反,安全問(wèn)題將被分類(lèi)為帶有個(gè)別屬性和方法的幾個(gè)不同層次,如機(jī)器人的內(nèi)嵌安全智能、機(jī)器人和人類(lèi)之間的運(yùn)行方式、控制機(jī)器人使用的法律規(guī)范等。于是,機(jī)器人的安全問(wèn)題未來(lái)就可在此一框架內(nèi)逐步加以解決。
限制機(jī)器人能力
研究人員還指出,通過(guò)防止機(jī)器人理解人類(lèi)語(yǔ)言,法律上的機(jī)器語(yǔ)言在一般情況下就能在人類(lèi)和機(jī)器人之間保持一定的距離。
那么,真的到了機(jī)器人能準(zhǔn)確解釋人類(lèi)法律語(yǔ)言的那一天,人類(lèi)又該如何考慮其合法的地位和權(quán)利呢?人類(lèi)法律體系應(yīng)當(dāng)轉(zhuǎn)變成人類(lèi)—機(jī)器人法律體系嗎?研究人員預(yù)測(cè)說(shuō),也許到時(shí)候就會(huì)出現(xiàn)機(jī)器人律師和機(jī)器人法官,它們將與人類(lèi)律師和法官一起工作,處理發(fā)生在人類(lèi)和機(jī)器人之間的訴訟案件。
機(jī)器人可能會(huì)學(xué)會(huì)人類(lèi)的善意,也可能會(huì)學(xué)會(huì)人類(lèi)的欺騙、虛偽和貪婪。有太多的問(wèn)題等著人類(lèi),因此人類(lèi)必須考慮,到底是讓機(jī)器人與人類(lèi)法律體系保持一定距離,還是讓其與人類(lèi)更為接近比較好。
除了使用機(jī)器語(yǔ)言來(lái)保持人類(lèi)與機(jī)器人之間的距離外,研究人員還考慮限制普通機(jī)器人的能力。研究人員建議關(guān)注“基于人類(lèi)智能的機(jī)器人”,這種機(jī)器人具有很高的認(rèn)知能力,從而擁有抽象思維,能以新的方式看待自己的環(huán)境。但是,由于普遍意義上的人類(lèi)智能的定義并不存在,因此很少有人能對(duì)基于人類(lèi)的智能作出一致的定義。但很多機(jī)器人設(shè)計(jì)人員預(yù)計(jì),伴隨著計(jì)算機(jī)人工智能技術(shù)的突破,基于人類(lèi)的智能將不可避免地成為現(xiàn)實(shí),機(jī)器人將可在缺乏明確的程序規(guī)則的情形下學(xué)習(xí)和適應(yīng)環(huán)境。不過(guò),由于此中問(wèn)題多多且缺乏必要性,越來(lái)越多的研究人員已傾向于禁止基于人類(lèi)智能的機(jī)器人。畢竟,發(fā)明機(jī)器人的原始目的是為了創(chuàng)造一種工具,而不是設(shè)計(jì)出一個(gè)偽人類(lèi)。
面臨巨大的挑戰(zhàn)
在該項(xiàng)研究中,研究人員還描述了此前為實(shí)現(xiàn)人類(lèi)—機(jī)器人共存社會(huì)的一些嘗試。例如,“歐洲機(jī)器人研究網(wǎng)絡(luò)”(EURON)正在對(duì)機(jī)器人倫理進(jìn)行研究,并試圖描繪出一幅機(jī)器人倫理的藍(lán)圖。韓國(guó)政府則制定了一個(gè)“機(jī)器人道德憲章”,其作為世界上第一個(gè)官方的機(jī)器人道德準(zhǔn)則,旨在避免人類(lèi)濫用機(jī)器人。同樣,日本政府的機(jī)器人政策委員會(huì)也在研究機(jī)器人的安全問(wèn)題。2003年,日本還建立了機(jī)器人開(kāi)發(fā)體驗(yàn)區(qū),這是一個(gè)設(shè)計(jì)用來(lái)測(cè)試機(jī)器人如何在現(xiàn)實(shí)環(huán)境中行為的“機(jī)器人城市”。
除了這些機(jī)器人安全的研究之外,監(jiān)管機(jī)構(gòu)仍然面臨著如下許多技術(shù)和社會(huì)方面的挑戰(zhàn)。在技術(shù)方面,機(jī)器人應(yīng)使用安全規(guī)則進(jìn)行編程,還是使其具有安全推理的能力?機(jī)器人倫理應(yīng)基于以人類(lèi)為中心的價(jià)值體系,還是將人類(lèi)的價(jià)值體系與機(jī)器人自身的價(jià)值體系結(jié)合起來(lái)?在法律上,當(dāng)發(fā)生機(jī)器人意外時(shí),應(yīng)如何劃分設(shè)計(jì)者、生產(chǎn)者、用戶(hù)甚至是機(jī)器人本身的責(zé)任?
研究人員表示,隨著機(jī)器人越來(lái)越融入人類(lèi)社會(huì),為社會(huì)機(jī)器人制定一個(gè)法律框架的重要性就日漸明顯。在人類(lèi)與機(jī)器人和諧共處的社會(huì)到來(lái)之前,如何在人類(lèi)—機(jī)器人互動(dòng)(機(jī)器人技術(shù)開(kāi)發(fā))和社會(huì)制度設(shè)計(jì)(法律法規(guī)框架制定)之間保持平衡,是橫亙?cè)谌祟?lèi)面前最大的安全挑戰(zhàn)。