很多人或許無法理解這樣的想法，但當人工智能變得越來越強，越來越多地出現在人類身邊，“我們應如何看待AI”越來越成為一道必答題。近日，中國科學技術大學教授、中國人工智能學會AI倫理工作委員會負責人陳小平，就此話題接受了中新財經記者專訪。

　　采訪實錄摘編如下：

　　中新財經記者：近期的一則新聞稱，谷歌一位工程師認為AI可能具有自己的“意識”，在網絡上引起討論。您是如何看待此事的？他的想法有合理的地方嗎？

　　陳小平：這個問題可以分兩方面來看，一方面是不合理的，另一方面又具備合理性。這兩方面同時存在。

　　說這種想法不合理，主要是依據科學判斷，AI是沒有人格的。另一方面，我覺得導致這位谷歌員工認為AI有“人格”，有其客觀原因。比如他可能對這個AI系統產生了共情。

　　5年前我就做過預測，類似的現象未來會越來越多地出現。目前對人工智能存在不同理解。按圖靈的觀點，人工智能只是模仿人類的某些功能，而且這種模仿不要求必須和人的工作原理相同。比如AlphaGo具有下圍棋的功能，但它下圍棋的原理與人是完全不同的。所以，無論AI怎么發展，它永遠不是人。因此說AI具有人格或人的情感、意識、道德等等，是不成立的。但是，AI可以用與人不同的工作原理，模仿人的語言、情感等功能，讓人對AI產生共情，于是一部分人就會認為，“AI是人，或具有人的某些精神品質。”

　　中新財經記者：現在我們身邊可能都有很多可以和人類“交流”的人工智能產品。對于這個時代的人們來說，人類與AI的邊界似乎正在變得模糊。在您看來，二者之間有沒有明確的界線？

　　陳小平：我認為有兩種邊界，一種是科學上的邊界，一種是人文上的邊界。

　　從科學的角度說，按照圖靈觀點，這個邊界是非常清晰的。AI僅僅模仿人的部分功能，本質上不具備人的品質，包括人格、情感、道德等等。

　　還有一些和圖靈不同的觀點。比如一種觀點認為，AI和人相比除了硬件不同，其他都相同。于是AI也可以有人格、有情感、有道德。估計這位谷歌前員工持此觀點。

　　于是，一方面是他相信AI除了硬件以外可以和人一樣；另一方面，從報道里看，他對這個AI系統已經產生了共情。僅僅因為AI在科學上沒有情感等人類品質，就可以排除或禁止一個人對AI產生共情嗎？這屬于人文的邊界，這個邊界至少目前非常模糊。

　　中新財經記者：作為中國人工智能學會AI倫理工作委員會負責人，您認為，如果有人相信AI具有人格，是否會給人類本身帶來一些問題或困擾？

　　陳小平：如果我們認為AI有人格的話，肯定會帶來很多困擾。同時還會帶來一些負面的后果，有些后果非常嚴重。

　　比如，人類如何對待AI。如果認為AI有人格，那是不是要把AI當成人呢？如果把它當成人了，那是不是要給它人類的權利？包括生存權、財產權、投票權等等，甚至無論AI做了什么危害人類的事情，都要像對待人一樣對待AI。

　　人類到底應該如何看待人工智能？這是一個非常根本的問題。如果AI真的具備人格、情感、道德，一般能力又超過人類，就會出現可控性問題。幾乎可以肯定的是，只要AI能夠模仿一種功能，那AI的這種功能遲早會比人強，就像AlphaGo下棋一樣。如果AI的通用能力也超過人，到那時人類憑什么能夠控制AI？這是個疑問。我們現在就要思考這樣的問題，提前做好風險防范。

　　當然，現在人工智能已經讓一些人產生了共情，將來會讓越來越多的人產生共情，這件事是客觀存在的。這將給人機關系、人際關系帶來巨大的新挑戰和新機遇，是一個新的重大課題。

　　中新財經記者：此前您在智源大會論壇上，提到人工智能倫理治理的幾種挑戰。我們應如何應對這樣的挑戰？

　　陳小平：對人工智能如何分類，應該分為人還是物？我認為，我們應該把人工智能看成是非人非物的第三種存在物。科學上，它不是人；從人文的角度說，它不是物。那就是非人非物的第三種存在物。這種觀點與根深蒂固的“二元論”是根本不同的，所以人工智能帶來的顛覆實際上遠超科技范疇。

　　如果以這種觀點考慮，能化解很多矛盾和難題，包括上面提到的法律難題，而且可以讓科學與人文在某種程度上重新“握手言和”；但其中仍有挑戰。有很多科幻作品寫到人類愛上人工智能，如果采用三分法是否就沒這個問題了？其實仍然會有這樣的問題。

　　所以，我們要想未來怎么適應這樣的社會，要判斷會不會出現人類不可接受的嚴重后果，要不要提前采取措施。

　　中新財經記者：目前國內在此方面的進展如何？

　　陳小平：這幾年我國人工智能倫理研究的發展非常快，從民間到政府對人工智能倫理都高度重視。這是個非常好的現象，我們有必要未雨綢繆。

　　在落實過程中，中國的情況總體上還是比較順利的。這表現在，一些基本原則上大家是有共識的，而且普遍認識到，不僅要從理論上研究，更要在實踐中開展治理。當然，如何在治理實踐中落實社會共識，仍是我們需要努力的方向。

　　具體怎么治理？這涉及大量實際問題。我的研究發現，我們前面談到的可控性和長期后果的不確定性，難以用傳統治理模式有效應對，需要探索新的治理方法。

　　除此之外，如用戶隱私、數據安全、算法公平透明等問題，用傳統社會治理模式是可以有效應對的。我們不用擔心這類問題會變得失控、解決不了，其中一部分具體問題其實正在解決之中。