機器人大戰: 道德真可以用數學來定義嗎?

Jul 15th, 2007 by Mr. Saturday

將文章轉換為簡體

之前 Mr. Saturday 曾經在無人車橫越沙漠!–初探 Computer Vision (電腦視覺) 一文中粗淺地介紹過電腦視覺這個有趣的研究領域，裡頭中有提到了美國國防部對於這類研究之所以這麼重視，主要還是因為電腦視覺的技術一但成熟，應用到軍事科技上，將會有相當可怕的成果出現，為什麼說可怕呢？因為美國要是真正打造出智慧型的無人載具，那麼其軍事力量將會更加強大，最近我在經濟學人上又看到了一篇有關於無人載具 (unmanned vehicles) 的相關報導，裡頭就是在講有一位教授 Ronald Arkin 最近在做的事情。

Ronald Arkin 在機器人學 (Robotics) 領域是相當傑出的學者，最近他有一項關於機器人道德的研究蓄勢待發，這項研究可以預見地將會是爭議性非常大的研究。簡單來說，Ronald Arkin 希望能夠賦予機器人我們人類的道德觀念，他之所以會有這種想法，其實就是考量到之後具有殺傷力的智慧型機器人將會被非常廣泛地應用在軍事用途上，要是這類智慧型機器人在戰場上暴走，狂爆地隨意殺害人類，這可不是開玩笑的事情。所以 Ronald Arkin 希望能夠打造出所謂的人工良知 (Artificial Conscience)，希望機器人能夠被這一套規則所規範，在關鍵時刻不至於做出危害人類的事情。

看到這個教授想做的事情，我馬上就想到 Isaac Asimov 老早就在他的科幻小說裡對於機器人訂出的三條有名規則：

機器人不可以傷害人類，或是因為自己的不行動和漠視讓人類受到傷害
機器人必須服從人類的命令，除非這個命令抵觸第一條規則
機器人必須保護自己，除非這個保護自己的動作會和第一和第二條規則抵觸

訂完這幾條規則，Asimov 便開始在他一系列的小說中開始描繪一些不遵照這些規則的機器人。

規則的背後是一些數字和符號，扯到數字和符號，就演變成了用數學來定義道德的一種情況。個人看來是大大的不妥，道德規範的複雜性用言語已經難以表述，何況是用數學來賦予機器人道德良知。我覺得這是相當可怕的一件事情，戰場上搭載著致命性武器的智慧型機器人，一但判斷出了錯，後果不堪設想。不過也由於這個議題相當地敏感，連 Ronald Arkin 本身也了解到他所從事的研究會帶來多大的爭議性，因此他還在自己的網頁上公開徵求大家的意見，請大家去填個問卷，他希望聽聽大家對於他現在的研究抱持什麼樣的態度。如果你有興趣的話，可以去這邊填這個問卷。

美國軍方一直希望催生智慧型的無人載具，可以毫無人類遙控，自動地去完成軍事任務。Asimov 的科幻小說和機器人必須服從的三條規則早在四零年代即已出現，在當時看來是那麼地天馬行空和遙不可及，如今跨入 21 世紀，其實電腦科技也不過發展數十餘年，現在人類居然已經開始在認真地探討我們對於機器人所必須賦予的規範！似乎幾十年前的科幻小說情節，再過不久就會在我們的生活中真實地上演。

過去的今天：

隨機推薦

文章分類: Mr. Saturday, Research, Robot, 專欄, 數學, 觀點, 電腦科學

7 Responses to “機器人大戰: 道德真可以用數學來定義嗎?”

on 15 Jul 2007 at 11:37 am1Jiahan

即使對人類來說,道德也並非是一致的標準~
在伊拉克的戰場上,也有少數的美國的阿兵哥在伊拉克的戰場上,
失去理智,去強姦婦女或是屠殺平民~
人類在許多時候,會無法壓抑自己的情緒,做出違反道德的事情~

今天科學家嘗試用數學去定義道德,如果出錯,
我想那也是人類對道德的定義不夠明確,因為那也是人定義的~
而且我想機器人應該能夠比人類去貫徹任何rule,不受情緒的影響~
on 16 Jul 2007 at 8:51 am2James

看到這篇文章讓我不禁想起倪匡之前的某本小說,內容描述科學家夫妻想找出犯罪因子並加以清除,所以找來一名強盜犯並將他的腦袋剖開都手清除,後來卻發現他們以他們認為的完美人格所改造的人並不完美,還是有個人的惡習,所以誰來當訂定規則的人……我想這是要定義道德前所需要先討論的吧
on 16 Jul 2007 at 9:23 am3walkingice

我印象中 Asimov 那本小說有趣之處在於，他訂了三條規則，而機器人反倒是在遵循那三條規則的前提下傷害人類。
on 16 Jul 2007 at 11:28 am4wildox

i’Robot電影中有敘述，若是AI進化，把那3條規則強化，最後的結果就是，機器人會限定人類的生存方式，以確保人類的存活…
on 16 Jul 2007 at 4:41 pm5Greg

to wildox:
I, Robot的電影並不是Asimov的作品,充其量是沾上邊的導演創作,真正要了解Asimov的機器人,應該要去看I, Robot的原著小說(不是電影小說喔),或是機器人系列

to walkingice:
另外,Asimov的小說中是描述這些機器人為了遵循機器人三大法則,所產生的各種矛盾,或說是機器人的道德困境,最終為了克服三大法則所面臨的困境,而發展出凌駕三大法則的第零法則:機器人不得傷害人類整體，或袖手旁觀坐視人類整體受到傷害,來克服此一道德困境
on 16 Jul 2007 at 11:14 pm6hex

我….想到變形金鋼….
道德的定義本來就很模糊吧~
所謂的道德也不過是多數人制定的習慣法則,
最不解的是為什麼會有戰爭這回事.
正義的一方可能成為加害的一方所在多有,
原先的立意是好的,
應用在不同人的手上成了不好的發展.
拿大戰時原子彈炸廣島來說,
發明原子彈的原理真的是要用在戰爭上嗎?
即使不是,還是會有人以國家正義的道德勸說.
結果是好的嗎?可能未必,
就如同好手好腳的人無法知道肢障者的感受.
你以為有了足夠的彌補,
但總會有個漏洞.
這….離題了…
問卷,應該也有助於思索吧~
on 17 Jul 2007 at 8:03 am7iguest

最有問題的規則莫過於第1條︰機器人不可以傷害人類，或是因為自己的不行動和漠視讓人類受到傷害。其中「或是因為自己的不行動和漠視讓人類受到傷害」帶有自主干涉性，很是漏洞……