席斌【譯】

山西大學法學院博士研究生

張志堅【校】

南京大學法學院博士后流動站研究人員，江西理工大學法學院副教授

要目

一、規則背景

二、規則內容

三、規則附件

歐洲議會決議通過的《歐洲機器人技術民事法律規則》，主要由規則制定背景、規則內容設計和規則配套附件三部分組成。關于規則的制定背景，議會認為人類已開啟一場新的工業革命，人工智能的發展與應用將為社會提供巨大的經濟和創新效益，但機遇與風險并存，人們也應當看到人工智能發展將帶來倫理失衡、數據與隱私侵害、問責困難等問題，故有必要對人工智能的發展風險進行規制。關于規則內容的設計，議會建議的規制手段包括通過制定有效的倫理指導框架、成立歐盟統一的機器人技術和人工智能的監管機構、明確損害賠償的嚴格責任、建立適用于智能機器人的強制保險制度、建立賠償基金、為復雜自動化機器人創設“電子人”的法律地位等內容。最后，《機器人技術憲章》《機器人技術工程師倫理行為準則》《研究倫理委員會準則》等附件以供未來立法作具體參照。

歐洲議會

——參考《歐洲聯盟運行條約》第225條；

——參考85/374/EEC號指令；

——參考《歐洲議會議事規則》第46條和第52條；

——參考代表議會科學與技術選擇評估（STOA）小組開展的信息物理系統的倫理方面研究，該研究成果由歐洲議會研究處科學展望團隊負責管理；

——參考法律事務委員會的報告，以及交通和旅游委員會，公民自由、司法和內政事務委員會，就業和社會事務委員會，環境、公共安全和食品安全委員會，工業、研究與能源委員會，的意見（A80005/2017）。

一、規則背景

引言

鑒于：

A.從瑪麗·雪萊（MaryShelley）筆下的《科學怪人》（Frankenstein’sMonster）到皮格馬利翁（Pygmalion）的古典神話，再從《布拉格人偶》（Prague’sGolem）的故事到卡雷爾·卡佩克（KarelＣˇapek）的機器人，正是后者創造了“機器人”這一詞匯，人們幻想著制造智能機器的可能性，特別是帶有人類特征的仿真機器人；

B.人類現在，更復雜的機器人、機器程式、仿生機器人等人工智能（AI）其他的表現形式似乎準備要開啟一場新的工業革命，這或許會使社會各階層均受到影響，故立法機關在不扼殺創新的情況下考慮其法律及倫理的影響和效果將至關重要；

C.有必要創設一個公認的機器人和人工智能的定義且這一定義是靈活的，不會阻礙創新；

D.在2010年至2014年間，機器人銷售額平均每年增長17％，2014年銷售額增長29％，創歷史新高，這其中汽車零部件供應商和電氣/電子行業為主要的增長驅動因素；機器人技術的年度專利申請量在過去十年已經增長了三倍；

E.在過去的200年中，因為技術發展，就業數據持續增加；機器人及人工智能的發展能夠轉變生活和工作方式，提升效率、節能和安全水平并提供更高水平的服務；機器人技術和人工智能將在中短期助益于提升效率和節能水平，這不僅體現在生產和商業方面，而且也會體現在運輸、醫療、救援、教育和農業等領域，于危險狀態中，諸如清理嚴重；

F.老齡化是生活條件和現代醫學進步導致預期壽命延長的結果，也是21世紀歐洲社會面臨的最大政治、社會和經濟挑戰之一；到2025年，超過20％的歐洲人將年滿65歲或以上，80歲或以上的人數增長尤為迅速，這將導致我們社會根本的代際失衡，有鑒于此，為了社會利益，老年人；

G.從長遠來看，目前的趨勢偏向于開發能夠接受訓練及具有獨立決策能力的智能自主機器，其不僅具有經濟優勢，也對于整個社會都具有直接或間接的影響；

H.機器學習盡管可以通過大幅提高數據分析能力來為社會提供巨大的經濟和創新效益，，即如何確保決策過程中的不歧視、正當程序、透明度與可理解性；

I.同樣地，我們需要評估機器人技術和機器學習帶來的經濟轉型及其對就業的影響；盡管機器人技術具有無可否認的優勢，但這種技術的應用勢必會、就業和社會政策反思的需要；

J.盡管機器人的廣泛使用或許不會必然地替代工作崗位，但勞動密集型產業中低技術含量的工作可能更易實現自動化；這種趨勢可能會將生產工序帶回歐盟；有研究表明，在使用計算機的職業中，就業增長明顯更快；工作的自動化有可能使人們擺脫手工單調的勞動，使他們能夠轉向去完成更具創造性和富有意義的任務；自動化要求政府應在教育和其他改革方面進行投資，以便對未來工人所需技能類型的重新分配進行優化；

K.、，要謹記，發展機器人技術可能會導致財富和影響力高度集中在少數人手中；

L.機器人技術和人工智能的發展勢必會影響工作環境，因此也可能會涉及新產生的相關責任問題，這種問題較其他問題而言，也勢必會更加尖銳；因此，鑒于在突發事件，法律責任需要從商業視角模式和勞動者制造模式兩方面加以明確；

M.自動化的趨勢要求參與人工智能應用程序開發和商業化的人員在一開始就應秉持安全和倫理觀，從而意識到他們必須對其所生產的技術質量承擔法律責任并為此做好應對的準備；

N.歐洲議會和理事會第2016/679號條例（《通用數據保護條例》)規定了保護個人數據的法律框架；考慮到在沒有人為干預的情況下，應用程序和設備之間以及與數據庫之間的通訊仍可能引起隱私問題，數據訪問、個人數據及隱私保護的其他方面問題仍需解決；

O.機器人技術和人工智能的發展方向可以而且應當以這樣的方式進行設計，即通過保持個人的尊嚴、自主和自決來“修復”或增強人類，特別是在人類需要關懷和陪伴的領域以及醫療器械的環境中；

P.從長遠來看，人工智能存在超越人類智力能力的可能；

Q.隨著自動化和智能算法的進一步發展，及其逐漸增高的使用頻率，這一決策無疑會影響多方的自主選擇（諸如企業），也會使行政部門、司法部門或其他公共機關干擾消費者、企業或權威機構，并影響其最后選擇決策結果；需要在自動化和算法決策的過程中納入保障措施，增設人為控制與審核驗證；

R.一些外國司法管轄區，如美國、、中國和韓國，正在考慮并在一定程度上對機器人技術和人工智能采取了監管措施，一些歐盟成員國也開始反思制定法律標準或進行立法變革，以應對這些新興技術的應用；

S.歐洲的產業可以得益于歐盟這一層級高效、連貫且透明的監管措施，這些措施可以為企業在歐洲范圍內開發應用程序和規劃業務模式提供可預測和足夠明確的條件，持對擬定監管標準的控制，以免去被動采用和遵守其他國家制定的標準，也即那些處于機器人技術和人工智能發展前沿第三國的標準；

一般原則

鑒于：

T.阿西莫夫定律應當可以直接適用于具有自主性和自我學習能力的機器人的設計者、生產者和操作者，盡管這些定律并不能被轉換成機器代碼；

U.一系列規則，特別是關于責任、透明度和歸責原則的規則是有效的也是必要的，本質上反映了歐洲和全球的人文價值，而這些價值是歐洲對社會的貢獻；這些規則不應影響對機器人技術的研究、創新與發展；

V.在機器人和人工智能的發展、規劃和使用過程中，歐盟可以在確立基本倫理原則方面發揮重要作用，并將這些原則納入歐盟的規章制度和行為準則當中，以期型塑技術革命并服務于人類，在使先進機器人技術和人工智能的益處獲得廣，也盡可能防止潛在的隱患；

W.本決議附有一份《機器人技術憲章》，由科學展望團隊（STOA）與歐洲議會研究服務機構協助起草，他們提出制定《機器人技術工程師倫理行為準則》《研究倫理委員會準則》，一份《設計者許可》和一份《使用者許可》；

X.在機器人和人工智能方面，歐盟應采取讓·莫內倡導的漸進、務實和謹慎的工作方式，以確保我們不會扼殺創新；

Y.機器人技術和人工智能已經達成的發展階段，從民事責任問題著手是適當的；

責任

鑒于：

Z.得益于過去十年中令人矚目的技術進步，今天的機器人不僅能夠進行以往屬于人類典型且獨有的活動，而且還發展了某些自主和認知功能—如從經驗中學習的能力和作出“準獨立”決策的能力—已經使機器人越來越類似于能夠與環境發生交互并且作出重大改變的智能體；在這種情況下，因機器人的侵害行為而產生的法律責任成為了一個至關重要的議題；

AA.機器人的自主性可以被界定為在外部世界作出獨立于外在控制或影響的決定并實施這些決定的能力；這一自主性具有純技術本質，且其自主性程度取決于機器人被設計成的可與其環境進行交互的復雜程度；

AB.機器人越是自主，它們就越難以被看作是其他行為人手中的簡單工具；就此，需要我們反過來思考的是，在機器人的作為或不作為不能歸責于某個特定自然人的情況下，以及在不能確定機器人的作為或不作為是否可以避免造成傷害的情況下，普通的責任規則是否足夠，或者是否需要新的原則；

AC.最終地，依據現有法律類別，機器人的自主性對機器人的性質提出了質疑，或者是否應當創建一個具有自己特定特征和含義的新類別；

AD.在目前的法律框架下，機器人本身不能為其作為或不作為給第三方造成的損害承擔責任；現有的責任規則涵蓋這類案件，即機器人的作為或者不作為可以歸因于一個特定的人類實體，諸如制造者、操作者、所有者或者使用者，并且這一實體本可以預見到并且避免機器人的致害行為；，制造者、操作者、所有者或使用者可以被要求為機器人的作為或者不作為承擔嚴格責任；

AE.根據產品責任的現行法律框架—產品生產者對故障負有責任—侵害行為的責任規則—產品使用者對其致害的行為負有責任—這些規則適用于機器人或人工智能造成的損害；

AF.在機器人可以自主決策的情況下，傳統規則不足以確定機器人造成損害的法律責任，因為這些規則不能確定到底哪一方當事人需要承擔賠償責任，以及由誰應當對機器人自主行為引起的損害承擔賠償責任；

AG.目前法律框架在合同責任方面的缺陷也很明顯，例如，設計的機器在選擇交易方、協商合同條款、訂立合同、決定是否和如何實施合同條款等方面均使傳統規則無法適用；由此凸顯了對新的、有效的和最新規則的需要，這些規則應當能夠適用于技術的發展；

AH.關于非合同責任，85/374/EEC號指令只能涵蓋由機器人的制造缺陷造成的損害，并且條件是傷者能夠證明實際損害、產品缺陷以及損害與缺陷之間的因果關系，因此嚴格責任或無過錯責任的框架或許是不充分的；

AI.盡管85/374/EEC號指令在上述范圍內可以適用，但是新一代機器人具備適應和學習能力，將使它們的行動必然存在一定程度的不可預測性，目前的法律框架無法充分涵蓋它們所造成的損害，主要是由于這些機器人可以自主地從他們的個殊經歷中學習并且以一種唯一的和不可預見的方式與他們的環境進行交互。

二、規則內容

關于機器人技術和人工智能發展的一般原則

1.歐洲議會通過考量智能機器人的下列特點，吁請、自動系統、智能自主機器人及其子類別的歐盟共同定義：

——通過感應器和/或與其周圍環境的信息交換（互連性所獲得的自我管理能力以及對于這些信息的交換與分析）；

——從經驗與互動中的自我學習（可供選取的非必要條件）；

——至少具有少許的物理支持；

——使其舉止與行動適應于周圍環境；

——不具備生物學意義上的“生命”。

2.歐洲議會認器人注冊系統，這對于特定類別的機器人是有意義且必要的，冊的機器人分類標準；在這方面，吁請委員會研究登記系統和登記簿是否需要由指定的歐盟機器人技術和人工智能機構管理；

3.歐洲議會強調機器人技術的發展應著眼于補足人的能力，而不是取代人的能力；認為在機器人技術和人工智能的發展中，必須保證人類始終控制智能機器；認為應當特別關注人類和機器人之間情感聯系的可能發展，特別是在弱勢群體（兒童、老人和殘疾人）中，并強調這種作用于人類的情感依賴帶來的嚴重的情感或身體影響所引發的問題；

4.歐洲議會強調歐盟層面的方法可，和機器；吁請測試、中是必要的；強調這種做法應；

5.歐洲議會強調機器人技術領域小型企業和初創企幫扶措施的重要性；

研究與創新

6.歐洲議會強調許多機器人應用仍處于試驗階段；欣見會員國和歐盟資助的研究項目越來越多；認為歐盟有必要同會員國一道通過運用公共資金以保持機器人技術和人工智能研究的領導者地位；建議委員會和成員國強化用于機器人技術和信息通信技術研究項目的金融工具，包括公私伙伴關系，并在加以落實研究政策及開放科學于負責任的倫理創新原則；強調需要投入足夠的資源，探尋應對技術發展及其應用所帶來的社會、倫理、法律和經濟挑戰的路徑；

7.歐洲議會吁請委員會和會員國促進研究方案，鼓勵對機器人技術和人工智能技術可能存在的長期風險和機遇進行研究，并鼓勵盡快就開發這些技術的后果開展有組織的公眾對話；吁請委員會加大對由學術出版與學術資源聯盟（SPARC）資助的“地平線2020”中多年金融框架中期審查的支持力度；吁請委員會和成員國共同努力，以便在按照預防原則進行適當的安全評估后，仔細監控并保證這些技術從研；

8.歐洲議會強調機器人技術和人工智能在經濟和社會中的創新與整合作用，而這些均需建設能提供普遍連接的數字基礎設施；吁請委員會制定一個框架，以滿足歐盟數字未來的聯結要求，并確保寬帶和5G中立原則；

9.歐洲議會強烈認為，基于安全和隱私設計的系統、設備和云服務之間的互操，這種數據流使機器人和人工智能變得更加靈活和自主；

倫理原則

10.歐洲議會指出通過使用機器人技術來賦予權力的潛能受到一系列緊張或風險的影響，這種潛能應當從人類安全、健康和保障的角度認真進行評估；自由、隱私、正直和尊嚴；自決和不歧視以及個人數據保護；

11.歐洲議會認為需要為機器人的開發、設計、生產、使用和改裝制定明確、嚴格和有效的倫理指導框架，以補充報告中的法律建議、成員國及歐盟的法律；在審查機器人技術協議及設計師和使，本立法建議在決議附件中以憲章的形式構建一個框架，該框架由《機器人技術工程師倫理行為準則》與《研究倫理委員會準則》組成；

12.歐洲議會強調透明度原則，即應始終能夠提供在人工智能幫助下作出的任何決定背后的理由，這些決定可能對一人或多人的生活產生實質性影響；認為將人工智能系統的算法簡化為人類可以理解的形式是一定有可能的；認為先進的機器人應配備一個“黑匣子”，它記錄了機器執行的每一項交易的數據，包括促成其進行決策的邏輯；

13.歐洲議會指出倫理指導框架應以有益、非惡、自主和公正原則為基礎，并應建立在《歐洲聯盟條約》第2條以及《歐洲聯盟基本權利憲章》所載的原則和價值之上，諸如人性尊嚴、平等、公正與公平、非歧視、知情同意、隱私和家庭生活及數據保護。，這一框架亦應建立在歐盟法的其他基本原則和價值觀之上，諸如透明、自治、個人責任和社會責任，并以現有的倫理實踐和準則為基礎；

14.歐洲議會認為應特別關注那些對秘密構成重大威脅且居于傳統受保護和隱私領域的機器人，因為它們能夠提取并發送個人數據和敏感數據；

一個歐洲機構

15.歐洲議會認為有必要加強成員國與歐盟委員會之間的合作，以確保歐盟的跨境規則連貫一致。這些規則允許在整個歐盟范圍內部署符合歐盟法律規定的安全和保障水平及倫理原則的機器人；

16.歐洲議會吁請委員會考慮選定一個歐洲機器人技術和人工智能實體機構，通過提供必要的技術、倫理和監管專門知識來支持歐盟和成員國兩級的相關公共行為者，、合乎倫理且知情地應對機器人技術發展帶來的新機遇和挑戰，特別是跨界屬性的問題，正如交通運輸部門所需應對的那樣；

17.歐洲議會考慮到人工智能的當前發展和投資，需要給予這一新的歐盟機構充分預算，配備監管人員以及外部的技術和倫理專家，對人工智能應用開展跨領域、跨學科的監測，確認行業最佳實踐，，確定新的原則并解決潛在的消費者保護問題和系統性挑戰；吁請歐盟委員會（如果創設，包括前述的歐洲機構）向歐洲議會報告機器人技術的最新發展以及每年需要采取的任何行動；

知識產權與數據流動

18.歐洲議會指出當前沒有專門適用于機器人技術的法律規定，盡管在某些方面或許需要具體考量，但現有的法律制度和學理可以很容易地適用于機器人技術；吁請委員會支持對機器人技術應用的各領域中涉及的知識產權采取橫向和技術中立的做法；

19.歐洲議會吁請委員會和成員國確保機器人領域的民事法律規則符合《通用數據保護條例》的規定并遵循必要性及相稱性原則；吁請委員會和成員國要考慮到機器人技術領域正在進行快速技術革命的情形，，以確保歐盟法律不會落后于技術的開發和部署；

20.歐洲議會強調《歐洲聯盟基本權利憲章》第7條、第8條以及《歐洲聯盟運作條約》第16條關于尊重私生活和保護個人數據權利的規定適用于機器人技術的所有領域，據保護的法律框架；在這方面，要求在《通用數據保護條例》的實施框架內，明晰關于在機器人中使用攝像機及傳感器的規則與標準；吁請委員會確保數據保護原則符合歐盟數據保護法的規定，諸如設計隱私和默認隱私、數據最小化、目的限制、數據主體透明控制機制與適當救濟措施，遵循并促進適當的建議和標準，并將這些原則納入歐盟政策；

21.歐洲議會強調數據的自由流動對數字經濟、機器人技術和人工智能領域的發展至關重要；強調機器人系統，包括其內部數據系統和數據流動的高級別安全及防護水平，包括系統內部數據系統和數據流動的高度安全，對機器人技術和人工智能的適當使用至關重要；強調互聯機器人和在的安全漏洞；強調個人數據高級別的安保與防護水平并適當顧及人類、機器人和人工智能之間的通信隱私是基本要求；強調機器人技術和人工智能的設計者有責任開發安全、可靠且用途適當的產品；吁請委員會和會員國支持并鼓勵開發必要的技術，包括設計安全技術；

標準化、安全與保障

22.歐洲議會強調制定標準和實現互操作性是未來人工智能和機器人技術領域競爭的關鍵；吁請委員會繼續致力于技術標準的國際協調，尤其是與歐洲標準化組織和國際標準化組織合作，以推動創新、避安全和消費者較高水平的保護，這其中也包括在工作環境中的確定適當的最低安全標準；強調合法逆向工程和開放標準的重要性，以使創新價值最大化，并確保機器人能夠相互交流；在此，設立專門致力于機器人技術標準制定的專業技術委員會，如ISO/TC299機器人技術委員會，應當給予肯定；

23.歐洲議會強調在現實生活中，機器人的測試對識別和評估機器人可能帶來的風險以及在純實驗室階段以外機器人技術的發展均是至關重要的；在此強調，在現實生活中，，機器人的測試帶來了許多問題，包括出現了一些放緩測試階段進展的障礙，這些測試需要有效的戰略和監控機制；吁請委員會按照預防原則，制訂跨越國別且各會員國均可執行的歐盟統一標準，以便確定機器人實驗領域的準入范圍；

無人交通工具

a）無人駕駛汽車

24.歐洲議會強調無人運輸涵蓋了所有形式的遠程駕駛、自動化、連接和無人的道路、鐵路、水路和航空運輸方式，包括車輛、火車、船只、渡輪、飛機、無人機，以及該領域未來所有形式的發展和創新；

25.歐洲議會認為汽車行業迫切需要有效的歐盟和全球規則，以確保自動化及無人車輛的跨境發展，從而充分發揮其經濟潛力，并從技術發展趨勢的積極影響中獲益；強調各自為政的監管方式將阻礙無人運輸系統的實施，并危及歐洲的競爭力；

26.歐洲議會指出駕駛員在意外接管，因此吁請利益相關方在決定安全；

27.歐洲議會認為無人駕駛汽車的出現將對以下方面產生影響：民事責任（責任和保險）、道路安全、與環境有關的所有議題（如能效、可再生技術和能源的使用）、與數據有關的問題（如數據訪問、數據保護、隱私和數據共享）、與信息和通信技術（ICT）基礎設施（如高密度、有效且可靠的通信）和就業（如工作崗位的創造和減少、重型貨車司機駕駛無人汽車的培訓）有關的問題；強調對道路、能源以及信息和通信技術基礎設施的重大投資是非常必要的；吁請委員會在無人駕駛汽車的工作中考慮上述方面；

28.歐洲議會強調歐洲伽利略衛星導航計劃（Galileo）和歐洲地球靜止導航重疊服務（EGNOS）為實施無人駕駛汽車提供可，并敦促在此方面發射完成歐洲伽利略衛星導航計劃所需的衛星以完善該定位系統；

29.關注無人駕駛汽車為殘疾人所帶來的高附加值，因為這種車輛使他們能夠更有效地參與到個體的道路交通中，從；

b）無人機（控制飛行器系統）

30.歐洲議會肯定無人機技術取得的積極進展，特別是在搜索救援領域；強調無人機歐盟框架對保護歐盟公民的安全、防護和隱私的重要性，并吁請委員會就歐洲議會2015年10月29全使用控制飛行器系統（RPAS）〔俗稱無人飛行器（UAVs）〕立法建議的決議采取后續行動；敦促委員會提供關于無人機廣泛使用安全問題的評估報告；吁請委員會審查是否有必要為控制飛行器系統采用強制性的跟蹤和識別系統，以便能夠確定飛機在使；吁請委員會采取歐洲議會和理事會第216/2008號條例規定的措施以確保無人飛行器的同質性和安全性；

護理機器人

31.歐洲議會強調老年人護理機器人的研究和開發遲早會變得更加主流和廉價，也正由此可以生產出功能更強大、消費者接受程度更廣的產品；指出這類技術的廣泛應用可以為老年人、殘疾人以及患有癡呆癥、認知障礙或記憶喪失的人提供預防、援助、監測、激勵與陪伴；

32.歐洲議會指出人與人之間的交際是護理的一個基本方面；認為用機器人取代人類的可能會導致護理實踐去人性化，另一方面，認識到機器人可以執行自動化護理任務，并可以為護理工作提供便利，也可以加強人文關懷并使康復過程更有針對性，使醫務人員和照料者劃治療方案；強調盡管機器人技術可以提高殘疾人和老年人的行動能力和融合能力，但是，護理工作仍然需要人類的參與，這種參與是社會互動不可替代的重要來源；

醫療機器人

33.歐洲議會強調對醫生和護理助理等保健專業人士進行適當教育、培訓和準備的重要性，以確保其盡可能獲得最高水平的專業能力，并保障病人的健康；為便于操作和獲準使用外科手術機器人，強調外科醫生須符合專業要求的最低需要；認為尊重機器人的監督自治原則至關重要，因此，最初的治療計劃和最終的決定將始終由人類外科醫生來決定；強調對使用者進行培訓的特殊重要性，以使他們能夠熟悉這一領域的技術要求；關注到使用移動機器人進行自我，因此，也關注到培訓醫生去處理自我診斷病例的需求；認為使用這種技術不應弱化或損害醫患關系，而應協助醫生診斷和/或治療病人，以減少人為失誤的風險，提高生活品質和預期壽命；

34.歐洲議會認為醫療機器人可以繼續在進行高精度手術和執行重復性程序方面取得進展，并可以改善康復的結果，它們也可以在醫院內提供高效的后勤保障；指出通過將醫療專業人員注意力從治療轉移到預防、提供更多可用預算資源以更好地適應患者需求多樣性、對醫療專業人員持續進行培訓和研究等方式，醫療機器人可以減少醫護成本；

35.歐洲議會吁請委員會確保在歐盟關于醫療器械的第2017/745號，測試新型醫療機器人設備的程序是安全的，特別是在植入人體的設備的情況下；

人的修復與增強

36.歐洲議會指出機器人在修復受損器官和恢復人的生理功能方面取得的巨大進步，也有巨大潛在的發展空間，但是，醫療機器人，特別是信息物理系統（CPS）有增強人體質的可能性，這引起了諸多較為復雜的問題。由于這些機器醫療器械可直接佩戴在人身上或植入人體內，因此我們或許會改變對人健全身體的概念；國家應當在醫院和其他保健機構設置機器人倫理問題委員會，并配備專業工作人員，以協助病人的治療工作；吁請委員會和會員國制定準則，以協助此類委員會的設立和正常運作；

37.歐洲議會指出對于重要的醫療應用領域，如機器人假體，需要確保不間斷、可持續地獲得維護和升級，特別是要通過修補漏洞與修正易受攻擊的問題來實現軟件的更新；

38.歐洲議會建議建立獨立的受信實體，特別是在原始供應商不再提供此類服務的情況下，保留必要的手段，向攜帶重要和先進醫療器械的人員提供服務，例如維護、維修和升級，包括軟件更新；類似于在國家圖書館存放合法出版物那樣，建議制造商有義務向這些獨立的受信實體提交全面的設計說明，包括源代碼；

39.歐洲議會注意到整合到人體內的信息物理系統存在關聯風險，例如可能被黑客攻擊、關閉或被抹去記憶，因為這些問題可能危及人類健康，在極端情況下甚至危及人類生命，因此強調必須優先考慮保護這些系統；

40.歐洲議會強調確保人人平等獲得技術創新、工具和干預措施的重要性；吁請委員會和各會員國促進輔助技術的發展，應根據《聯合國殘疾人權利公約》第4條的規定，促進那些技術需求者開發和利用這些技術；

教育和就業

41.歐洲議會注意到委員會預測，到2020年，歐洲可能面臨多達825000名信息和通信技術專業人員的短缺，而且90％的工作將至少需要基本的數字技能；欣見委員會提出可使用與修訂“數字素養”框架的路線圖倡議，并且為各級學習者提供有關數字素養的具體描述。為了更好地，第一步是要吁請委員會不論所有年齡組的人就業狀況如何，都應為其發展數字能力提供重大支助；強調隨著機器人技術的發展，會員國應當進一步深化靈活的培訓和教育系統，以確保技術提升戰略符合機器人經濟的需要；

42.歐洲議會認為目前更多年輕女性對數字職業感興趣，而讓更多女性從事數字工作，將有利于數字產業發展、女性自身發展及歐洲經濟水平的提升；在此吁請委員會和成員國采取積極行動，支持女性參與信息和通信技術工作并提高她們的數字應用技能；

43.歐洲議會吁請委員會更為密切地分析和監測中長期的就業趨勢，著重關注不同資格領域中就業的新開創、被取代和消失情況，以便了解哪些領域正在創造就業機會，哪些領域的就業機會由于機器人的高頻使用而減少；

44.歐洲議會強調對預測社會發展變化的重要性，人工智能在其發展和投入使用后可能產生的影響；要求委員會分析機器人技術和人工智能產生的各種情況及其對各會員國社會保障制度可行性的后續影響；

45.歐洲議會強調技能的靈活性以及社交、創意和數字技能在教育方面的重要性；可以肯定的是，除了在學校傳授學術知識外，終身學習還需要通過終身實踐來完成；

46.歐洲議會指出機器人技術在提高工作安全水平方面具有巨大潛力，即可以將一些危險和有害的工作從人類轉移到機器人身上，，也應當注意到，由于在各工作場所的人機交互的次數越來越多，這一技術也可能會帶來一系列新的潛在風險；

47.歐洲議會指出機器人技術和人工智能的發展應以此類方式進行，即通過有效的能源消耗限制環境影響、通過促進使用可再生能源和稀缺材料提高能源利用率、使浪費最小化，如電子和電氣廢物，以及可修復性；因此鼓勵委員會將循環經濟原則納入全部關于機器人技術的歐盟政策當中；指出機器人技術的使用也將對環境產生積極影響，特別是在農業、糧食供應和運輸領域，尤其是通過減少機器尺寸、減少化肥、能源和水的使用，實現農耕精細化和路徑最佳化；

48.歐洲議會強調信息物理系統將推動能源和基礎設施系統的創建，這些系統能夠控制從生產者到消費者的電力流動，還將導致能源“散戶”的產生，他們既生產又消耗能源，從而帶來極大的環境效益；

責任

49.歐洲議會認為機器人致害的民事責任是一個關鍵問題。為造福公民、消費者和企業，這一問題需要在歐盟層級上進行研究處理，以確保整個歐盟法律的執行在效率、透明度和一致性方面均處于同等水平；

50.歐洲議會指出機器人技術的發展，需要對人類與機器人交互活動的共同基礎予以更多理解，這一理解應基于兩個相互依存的核心關系，即可預測性和直接關聯性；在此應當指出，這兩種相互依存的關系至關重要，其中包含劃定人類與機器人之間需要共享哪些信息以及如何建立人類與機器人之間的共同基礎，從而使人類與機器人能夠順利地進行人機互動；

51.歐洲議會要求委員會根據《歐洲聯盟運行條約》第114條之規定提出制定立法文書的議案，該立法文書主要涉及在未來十年至十五年內可以預見的、與機器人技術和人工智能開發使用相關的法律問題，，也應一并附上本決議附件提及的準則和行為守則；

52.歐洲議會認為無論選擇什么樣的法律方案來解決機器人致害的民事賠償責任，在涉及財產損害之外的案件中，未來的立法文書都不應當限制被救濟的損害類型或者程度，也不應當基于損害是由非人類行動者（即智能機器人自身）造成的這一理由限制受害人可能獲得的賠償；

53.歐洲議會認為未來的立法文書應以委員會的深入評估為基礎來確定是否應采用嚴格責任或風險管理方法；

54.歐洲議會指出嚴格責侵害行為和受害人損害之間具有因果關系；

55.歐洲議會指出風險管理方法并不關注有“過失行為”的責任人本人，而是關注在某些情況下，能夠盡量減少風險和處理負面影響的那個人；

56.歐洲議會認為一旦最終負有責任的主體得到確認，其所應承擔責任的大小應與給予機器人的指令級別和機器人的自主性程度相稱。因此，機器人的自主性或者學習能力越強，“訓練”，機器人的“訓練人”所應承擔的責任就越大。特別指出當將機器人的侵害行為歸咎，不應將通過“訓練”機器人產生的技能與嚴格依賴于其自身學習能力獲得的技能相混淆；指出至少在現階段，責任必須由人而不是機器人承擔；

57.損進行法律責任分配是一個復雜的問題，一個可能的解決方案便是建立適用于智能機器人的強制保險制度，類似于機動車上的強制保險；指出該保險制度與當前機動車上的強制保險不同，因為后者僅涵蓋人類的行為和過錯，適用于機器人的強制保險制度應將所有環節中的潛在責任考慮在內；

58.歐洲議會認為與機動車保險的情況一樣，可以考慮建立賠償基金，作為強制保險制度的一個補充，賠償基金可以確保未被保險覆蓋的損害可以得到彌補，這是設立賠償基金的首要目的；吁請保險業開發與機器人技術進步相適應的新產品與種類；

59.歐洲議會吁請委員會在對其未來立法文書進，探索、分析和考慮所有可能法律解決方案及其帶來的影響，例如：

a）制定一個適用于特定類別機器人的強制性保險方案，就像汽車保險所涉及的情形那樣，要求機器人生產商或機器人所有者對其機器人可能造成的損害進行投保；

b）如果機器人造成的損害不屬于保險范疇，確保補償基金不僅服務于提供賠償保障這一目的；

c）如果機器人制造商、程序開發者、所有者或使用者向這個賠償基金捐款，并且在機器人造成損害的情況下共同拿出保險提供賠償，則允許他們受益于有限責任；

d）決定是否應當為所有智能自主機器人設立一個一般性的基金，還是針對每一個類別的機器人設立一個獨立的基金；決定是否應當在，還是在機器人的生命周期內定期捐款；

e）確保機器人與其補償基金之間的聯系是公開的，能夠通過一個特定的歐盟登記簿上的個人登記號碼查到，從而令任何與機器人發生互動的人都能獲悉該基金的性質、在財產遭受損失的情況下其責任的限制、捐贈人的姓名、職能以及其他一切相關細節；

f）從長遠來看要創設機器人的特殊法律地位，以確保至少最復雜的自動化機器人可以被確認為享有電子人的法律地位，有責任彌補自己所造成的任何損害，并且可能在機器人作出自主決策或以其他方式與第三人獨立交往的案件中適用電子人格。

國際方面

60.歐洲議會指出目前適用于歐盟內部關于交通事故的一般國際私法規則并無迫切需要進行實質性修改來適應無人駕駛車輛的發展，但是簡化現行關于界定法律適用的雙重制度，根據《歐洲議會和歐洲理事會第864/2007號條例》和1971年5月4《關于交通事故適用法律的海牙公約》，將提高法律確定性，并限制擇地行訴的可能性；

61.歐洲議會指出需要考慮對國際協定的進行修訂，例如1968年11月8《維也納道路交通公約》和《關于交通事故適用法律的海牙公約》；

62.歐洲議會企盼委員會確保各成員國執行國際法，例如道路交通維也納公約需要統一修訂，以使無人駕駛成為可能，并吁請委員會、會員國和業界盡快達成《阿姆斯特丹宣言》設定的目標；

63.歐洲議會大力倡導在社會、倫理和法律挑戰的審查中開展國際合作，然后在聯合國主持下制定監管標準；

64.歐洲議會指出歐洲議會和歐洲理事會第428/2009號條例對兩用物品—可用于民用和軍事用途和/或有助于大規模殺傷性武器擴散的商品、軟件和技術—貿易規定的限制和條件也應當適用于機器人技術；

最后方面

65.歐洲議會吁請委員會在《歐洲聯盟運行條約》第225條的基礎上，根據《歐洲聯盟運行條約》第114條提交一份關于機器人技術民事法律規則的立法建議，并遵循本附件中的建議；

66.歐洲議會確認這些建議尊重基本權利和輔助性原則；

67.歐洲議會認為如果要建立新的歐洲機構，所提出的提案將對財務產生影響；歐洲議會指示主席將本決議及其所附建議轉交委員會和理事會。

三、規則附件

關于所要求提案內容的建議

1.“智能機器人”定義與分類

需要闡明智能自動化機器人在歐洲的通常定義，適當包括其子分類，并考慮以下特征：

——通過傳感器與/或通過與所處環境交換數據（內部連接）及分析數據實現自動化的能力；

——通過經驗積累及互動方式進行學習的能力；

——機器人的物理支持形式；

——根據環境調適自己行為的能力。

2.智能機器人的登記

為了實現可追蹤性，便于建議的進一步落實，需要引入一套基于機器人分類標準的高級機器人登記系統。登記系統及登記簿應當建立在全歐盟范圍內并，并且指定的歐盟機器人技術和人工智能歐盟機構一旦設立，即可以管理該系統。

3.民事法律責任

在涉及財產損害之外的案件中，任何選定的法律解決路徑都不應當限制需被救濟的損害類型或者程度，也不應當基于損害是由非人類行動者（即智能機器人自身）造成的這一理由限制受害人可能獲得的賠償；

未來的立法文書應以委員會的深入評估為基礎來確定是否應采用嚴格責任或風險管理方法；

應當建立強制保險，要求制造商為自己制造的自動化機器人投保；

該保險方案應當有賠償基金作為補充，確保強制保險未能覆蓋的損害得到補償；

任何涉及機器人和人工智能民事責任的規則均應當在咨詢歐盟機器人與神經科學研究開發項目的科學家和專家后方可適用，這些科學家和專家需具備評估所有相關風險及后果的能力。

4.互動性、代碼使用及知識產權

化機器人應當確保具有互動性。為了調查機器人造成的事故和損害，也為了確保其持續運轉、可使用、可靠及安全，機器人源代碼的訪問、數據輸入、制造。

5.機器人技術憲章

，委員會應當考慮以下《機器人技術憲章》所包含的原則。

《機器人技術憲章》

提議的機器人領域倫理行為準則為機器人從設計到開發各階段提供基本倫理原則的識別、背離判定及遵守的基礎。

該行為框架經查詢專注機器人及神經科學的全歐洲研究開發項目而起草，其設計需深思熟慮，允許個人依據個案情況進行調整，據以判定特定情況下特定行為正誤與否，并依據事前設定的價值體系做出決定。

該倫理行為準則不能取代該領域應當對所有重大法律風險的需求，而應當具有補充功能。它應當推進機器人倫理規范的分類，強化該領域重建責任的努力，回應公眾關切。

應當重點關注研究、開發階段相關技術過程（設計過程、倫理審查、審計控制等等）。它應當關注研究人員、實施人員、使用者、設計者遵守倫理標準的必要性，還應當引進一套程序用以設計解決倫理困境的方案，使這些體系運行在倫理責任的軌道中。

《機器人技術工程師倫理行為準則》

1.前言

準則要求所有研究、設計人員對自己的行為負責，充分考慮人類的尊嚴、隱私和安全。

準則要求各學科領域緊密合作，保證歐盟機器人技術研究的安全性、倫理性和高效性。

準則適用于機器人領域所有研究和開發行為。

準則自愿遵守，并為所有利益相關方采取行動提供總體的原則和方法。

鼓勵機器人研究的資助主體、研究機構、研究人員、倫理委員會在起始階段思考正在研究的技術或對象的未來影響，培養一套責任文化，觀照未來可能出現的挑戰與機遇。

公共或者私有的機器人研究資金提供方應當要求每一項機器人研究的資金申請進行風。該準則應當將人，而不是機器人，作為責任方。

機器人研究者應當信守倫理和職業的最高規范，遵守以下原則：

有益性—機器人應當為人類追求最高利益；

非惡性—“不傷害”是首要信條，機器人不得傷害人類；

自主性—就與機器人互動方面，能夠做出知情、非強制的決定；

公正性—與機器人相關利益的公平分配，特別要提供廉價的家政和醫療服務機器人。

2.基本權利

機器人研究行為的設計、實施、傳播、使用都應當尊重基本權利，服務于個體和社會的福利及自我決定的利益。人類的尊嚴和自主—包括生理和心理—需自始尊重。

3.預防措施

機器人研究行為應當遵守預防原則，預測其結果的安全問題，采取與保護水平相應的預防措施，的改進。

4.全面性

機器人工程師保證透明性，尊重所有利益相關方了解信息的合法權利。全面性原則允許所有涉入機器人研究行為的利益相關方或有關方面參與決策過程。

5.責任

機器人工程師保持對機器人對人類當前或未來造成的環境及健康影響承擔責任。

6.安全

機器人設計者應當考慮并尊重人們的身體利益、安全、健康和權利。機器人工程師需維護人類利益，并尊重人類權利，境的因素。

7.可逆性

可逆性是可控性的必要條件，是機器人編程，保證其行為安全可靠的基礎概念。可逆性模型告訴機器人哪些行為可逆以及逆轉的方法。撤銷先前行為或先前的系列行為的能力使使用者可以撤銷有違自己意愿的行為，回復到先前的“良好”狀態。

8.隱私

隱私權應當被尊重。機器人工程師應當保證私人信息安全保存，恰當使用。，機器人工程師還需保證，除非特殊情況不能識別個人，知情同意。在人機互動之前就應當征求并取得人的知情同意。所以，機器人設計者有責任開發并遵守有效同意、保密、匿名、公正對待及必要過程的流程。一經要求，設計者需銷毀有關數據，從所有資料庫中刪除數據。

9.利益最大化與傷害最小化

研究者應當努力從構思到傳播的各個工作階段實現利益最大化。要避免對研究參與者、人類對象、實驗過程、試用過程、調研參與者或對象的傷害。若風險是研究過程的組成部分而不可避免，則需要開發有力的風險評估及管理協議并遵守。通常情況下，風險損害，也就是說，不應當要求人們應對大于他們平常生活中的常見風險或額外的風險。機器人系統的操作應當以徹底的風險評估為前提，風險評估應當遵守預防和比例的原則。

《研究倫理委員會（REC）準則》

1.原則

（1）獨立

倫理調查過程應當獨立于研究本身。該原則強調避免研究人員與倫理協議審查人員之間的，以及審查人員與組織治理機構之間的利益沖突。

（2）職業能力

倫理審查過程應當由具備適當專業能力的審查人員進行，需要仔細考慮研究倫理委員會成員的范圍及特定倫理培訓的情況。

（3）透明度與清晰度

審查過程應當清晰，接受仔細審查。研究倫理委員會成員應當意識到他們肩負的責任及身處的位置，這關乎到他們可以為研究倫理委員會工作過程提供透明度以維持和審查相關標準。

2.研究倫理委員會的角色

所有相關機構內部或其雇傭人員開展的涉及人類參與的研究一般都由研究倫理委員會審查，確保倫理審查的獨立性、，保護參與者的尊嚴、權利和安康，考慮研究人員的安全及利益相關方的合法利益，在知情的情況下判定研究方案的科學價值，并對有缺陷的方案向研究者提出有依據的建議。

3.研究倫理委員會章程

研究倫理委員會通常應當由跨學科領域的人員組成，其成員包括男士和女士，成員在機器人研究領域有豐富的經驗和專業素養。其任用機制應當確保其成員在科學素養及哲學、法律、倫理背景方面與普通人的觀點實現平衡，其中至少有一名成員具備倫理學的專業知識；專業的健康、教育、社會服務若為研究活動所涉及，則應當包含有關使用者；應當包括在所審查領域具備特定研究方法的專家；而且，其組成必須確保避免利益沖突。

4.監督

所有研究組織應當設計適當的程序來監督已經得到倫理審查許可的研究行為，這一監督應直至終了。這一程序的設立應，在可能需要的情況下，審查能夠持續進行。監督過程應當與研究的性質及風險等級相一致。研究倫理委員會若發現監督報告引發了對研究行為的重大倫理擔憂，其應當取得研究活動的完整、詳細報告以進行充分倫理審查。一經發現研究活動有違倫理，應當考慮撤回其倫理許可，研究活動應當暫停或終止。

《設計者許可》

——該類技術設計、開發、轉移的相關研究開始前、研究過程中、研究過程之后，您都應當考慮尊嚴、自主、自決、自由、公正的歐洲價值觀，其中包括不傷害、不欺騙、不惡意利用（易受傷害的）使用者。

——出于安全的目的，機器人操作的硬軟件設計所有相關方面、平臺內外的數據處理，您都應當適用可信的系統設計原則。

——您的設計應當關注隱私問題，確保私人信息安全保存，適當使用。

——您應當整合明顯的、與合理的設計目標相一致的退出機制（配備毀滅開關）。

——您需確保機器人的操作遵守地方的、國家的、世界的倫理及法律原則。

——您需確保機器人的決策步驟能夠進行重建和跟蹤。

——您需要確保機器人系統編程的最大透明度，確保機器人行為的可預測性。

——您應當考慮解釋過程及行為的不確定性，以及機器人或人類可能的失誤，分析人機系統的可預測性。

——您需要在機器人設計階段開發追蹤工具。即便因為專家、操作人、使用者的水平不同而受到限制，這些工具依然應當強化機器人行為的報告和解釋。

——您應當繪制設計和評價協議過程圖，參與潛在使用者及利益相關方評價機器人的利益和風險，其中包括認知、心理、環境相關方面。

——您需確保機器人與人類互動中機器人可以被識別為機器人。

——您需保證與機器人聯絡、互動人員的健康和安全，因為機器人產品的設計應當使用保證人類安全的程序。機器人研究工程師應當維護人類利益、尊重人類權利；若不能保證系統操作的安全、可靠、可逆，則不應當部署機器人。

——您在取得研究倫理委員會的肯定之后方可在實際環境中測試機器人，或者讓人類參與機器人的設計、開發環節。

《使用者許可》

——您使用機器人無須擔心身體或心理遭受傷害的風險。

——您有權期待機器人完成其設計的任何事務。

——您需要注意，所有的機器人都可能存在感知、認知、行動方面的限制。

——您需要關注人類身體和心理的脆弱，關注人類的情感需求。

——您需要考慮個人的隱私權利，其中在親密行為中應當關閉視頻監控。

——未經數據主體的明確同意，您不可以收集、使用、披露個人信息。

——任何有違倫理及法律原則與標準的機器人使用行為均不被允許。

——您不可改造機器人，以使其具備武器功能。