這一規范指出,人類應該有充分的決策權,并有權選擇是否接受人工智能服務——人類有權利要求退出與人工智能系統的互動,或在任何時候中止其運作。該文件由中國科技部于上月底發布。
該規范表示,其目標是“確保人工智能始終處于人類的控制之下”。
德國智庫墨卡托中國研究所的分析師Rebecca Arcesati說:“這是我們從中國看到的第一份關于人工智能倫理的規范。”
這一題為《新一代人工智能倫理規范》的準則由人工智能治理委員會起草,該委員會于2019年2月在科技部下成立。當年6月,該委員會發布了一套人工智能治理的指導原則,比新發布的規范短得多,也寬泛得多。
Rebecca Arcesati說:“ 中國最終選擇了一種重拳出擊的模式,國家正在非常認真地思考人工智能將帶來的長期社會轉型,從社會異化到生存風險,并試圖積極管理和引導這些轉型。他們的思維具有顯著的前瞻性。”
該文件概述了人工智能系統的六項基本原則,包括確保它們是“可控和可信的”。其他原則是改善人類福祉,促進公平和正義,保護隱私和安全,以及提高道德素養。
Rebecca Arcesati表示,新的人工智能準則是“向那些將整個商業模式建立在算法上的科技巨頭發出的一個明確信息”。
這一準則旨在讓用戶對他們與人工智能系統的在線互動有更多控制權,其他國家也在努力解決這個問題。新文件中提到了數據安全、個人隱私和選擇不參與人工智能算法決策的權利。
文件說,預防風險需要發現和解決人工智能系統中的技術和安全漏洞,并提高人工智能產品質量的管理和控制。
指南還禁止人工智能產品和服務從事非法活動,以及嚴重危害國家安全、公共安全或制造業安全的活動。文件指出,它們也不應該損害公共利益。
2017年,中國制定了一項雄心勃勃的計劃,以超越美國,成為全球人工智能的領導者。該計劃的第一階段讓政府發揮主導作用,表示到2020年,國內產業應與領先的人工智能技術、應用、道德準則和政策框架保持同步。
下一個目標是到2025年有重大的人工智能突破,并在十年后成為該領域的領先國家。
他補充說,鐵路將成為兩地聯系的主要交通要素。
