正在1968年上映的典范科幻電影《2001太空周游》中，宇宙飛船的計算機HAL面臨著兩難挑選。法式指令規定他推行飛船查詢拜訪木星鄰近人造物的使命，與此同時還規定不向宇航員泄漏使命的真正目標。為了辦理這個沖突，HAL殺害了宇航員。

　　跟著機械人愈來愈智能化，計算機控制的機械將面對倫理決議計劃的觀念正在從科幻天下進入實際天下。人類社會要想措施包管改良他們的設備，不消干出HAL必需干的品德推斷。

　　絕不奇異，正在向自立型機器人目的挺進的步隊中，軍事技術是急先鋒，其成長促進了各類機器人的出生。“沙地跳蚤”（Sand Flea）可一邊拍攝一邊跳過窗戶或跳上房頂，然后應用輪子持續轉動行進。有六條腿的甲由機器人“RiSE”能夠翻墻。樣子容貌像狗的機器人LS3可載重 180千克隨主人正在高低地帶經由過程。手提箱巨細的機器人SUGV可正在人群中識別出特定小我私家并尾隨。

　　機械人正在民用行業還日趨遍及，由飛機駕駛艙到手術室不計其數。客機很久以前即可主動下降。無人駕駛火車還很平居。沃爾沃的V40轎車正在堵車時事實上可保證主動駕駛，當它感覺到馬上撞車時會緊要剎車，福特的B-Max還可保證這一點。完整主動駕駛的汽車正正在環球各地舉行試驗。谷歌（微博）的無人駕駛汽車已正在美國行進了25萬英里，內華達州成為美國對大眾門路無人駕駛立法的第一個州。幾天前正在巴塞羅那，沃爾沃展現了一列主動駕駛汽車上路。

　　跟著機械人愈來愈智能和遍及，主動化機械末將在不成預知的景遇下做出非同小可的決意，進而具有——或最少表面上具有——品德主體資格。武器體系現階段另有人類末了把關，但跟著體系進一步復雜化，極可能變成主動執行命令的設備。

　　當高新科技發展到這一天時，機械人將面對倫理兩難處境。黃蜂機械人該向據信為軍事目標藏匿的修建（與此同時還多是民用避風港）開仗嗎？無人駕駛汽車該躲避行人嗎？——假如如許干意味著將傷害別的車輛或為車內人員帶來危險。搶險救災的機械人該將現場的真相通知各人嗎？——假如見告真相有大概招致公家驚愕。這種題目招致了“機械倫理學”的鼓起，研討為予機械人分辨對錯的才能，讓他們面對以上兩難窘境時能干出適當的挑選。

　　應對這一些困難的法子之一是完全避免這一些題目，禁止戰場上利用機器人、規定駕駛員隨時維持對所駕車的充裕注重。國際機器人兵器掌握委員會 （International Committee for Robot Arms Control）等機構否決增長遙控飛機的利用。不外機器人適用于軍事可能會弊大于利。機器人兵士不容易強奸、不容易因發怒而燃燒村落、不容易因戰役壓力搖搖擺擺。無人駕駛汽車極可能比一般汽車更寧靜，就像自動駕駛儀使飛機更寧靜一樣。谷歌無人駕駛技能專家Sebastian Thrun估量，這類技能每一年可援救100萬人的性命。

　　不外，人類社會須想辦法盡快應對機器人的倫理題目。美國良多州接踵經過觸及無人駕駛汽車的執法。因為立法降后于技能，無人駕駛汽車一直在執法灰色地帶游走。

　　1942年，科幻作家阿西莫夫提出了馳名的機器人倫理標準三準則，請求機器人首先要庇護人類，其次為服從敕令，最終是保留本人。不幸的是，這一些準則在實際時候沒多大用途。戰場上的機器人要破損第一條準則。阿西莫夫的機器人科幻小說之所以風趣，恰好在于小說凸現了機器人試圖服從這一些顯然明智的規矩時遭遇到的不測窘境。機器人的開發利用羈系請求一個越發龐大的框架，特別需要在以下三大范疇獲得進度。

　　首先，須立法肯定無人駕駛飛機襲擊毛病或無人駕駛汽車出車禍時機器人設計者、編程人員、制造商或操作員是不論是有義務。為了了了義務，主動體系必需連結具體紀錄，用以表明機器人決議的依據。這對體系設計具有重要意義：比方這能夠掃除正在機器人設計中應用人工神經網絡的做法，由于它是由經歷中進修而不論是服從預先規定規矩的決議體系。

　　其次，嵌入倫理體系的機器人所作的推斷必需切合大多數人的好處。對此實驗哲學技能，即研討人類若何對倫理兩難處境做出反響的技能可提供匡助。末了也是最主要的一點，工程師、倫理學家、狀師和決策者應增強協作。倫理學家可通過傳授機器人倫理而加深對本范疇的明白，工程師要讓社會信任他們沒有走倫理捷徑。

　　技能推動了人類社會發展，但每次發展皆形成了辣手的新題目。機器人技能還沒有破例。由此形成的倫理題目答復得越快，人類享用這項技能還就越便當。