很多人或許無法理解這樣的想法，但當(dāng)人工智能變得越來越強(qiáng)，越來越多地出現(xiàn)在人類身邊，“我們應(yīng)如何看待AI”越來越成為一道必答題。近日，中國科學(xué)技術(shù)大學(xué)教授、中國人工智能學(xué)會AI倫理工作委員會負(fù)責(zé)人陳小平，就此話題接受了中新財(cái)經(jīng)記者專訪。

　　采訪實(shí)錄摘編如下：

　　中新財(cái)經(jīng)記者：近期的一則新聞稱，谷歌一位工程師認(rèn)為AI可能具有自己的“意識”，在網(wǎng)絡(luò)上引起討論。您是如何看待此事的？他的想法有合理的地方嗎？

　　陳小平：這個問題可以分兩方面來看，一方面是不合理的，另一方面又具備合理性。這兩方面同時存在。

　　說這種想法不合理，主要是依據(jù)科學(xué)判斷，AI是沒有人格的。另一方面，我覺得導(dǎo)致這位谷歌員工認(rèn)為AI有“人格”，有其客觀原因。比如他可能對這個AI系統(tǒng)產(chǎn)生了共情。

　　5年前我就做過預(yù)測，類似的現(xiàn)象未來會越來越多地出現(xiàn)。目前對人工智能存在不同理解。按圖靈的觀點(diǎn)，人工智能只是模仿人類的某些功能，而且這種模仿不要求必須和人的工作原理相同。比如AlphaGo具有下圍棋的功能，但它下圍棋的原理與人是完全不同的。所以，無論AI怎么發(fā)展，它永遠(yuǎn)不是人。因此說AI具有人格或人的情感、意識、道德等等，是不成立的。但是，AI可以用與人不同的工作原理，模仿人的語言、情感等功能，讓人對AI產(chǎn)生共情，于是一部分人就會認(rèn)為，“AI是人，或具有人的某些精神品質(zhì)。”

　　中新財(cái)經(jīng)記者：現(xiàn)在我們身邊可能都有很多可以和人類“交流”的人工智能產(chǎn)品。對于這個時代的人們來說，人類與AI的邊界似乎正在變得模糊。在您看來，二者之間有沒有明確的界線？

　　陳小平：我認(rèn)為有兩種邊界，一種是科學(xué)上的邊界，一種是人文上的邊界。

　　從科學(xué)的角度說，按照圖靈觀點(diǎn)，這個邊界是非常清晰的。AI僅僅模仿人的部分功能，本質(zhì)上不具備人的品質(zhì)，包括人格、情感、道德等等。

　　還有一些和圖靈不同的觀點(diǎn)。比如一種觀點(diǎn)認(rèn)為，AI和人相比除了硬件不同，其他都相同。于是AI也可以有人格、有情感、有道德。估計(jì)這位谷歌前員工持此觀點(diǎn)。

　　于是，一方面是他相信AI除了硬件以外可以和人一樣；另一方面，從報道里看，他對這個AI系統(tǒng)已經(jīng)產(chǎn)生了共情。僅僅因?yàn)锳I在科學(xué)上沒有情感等人類品質(zhì)，就可以排除或禁止一個人對AI產(chǎn)生共情嗎？這屬于人文的邊界，這個邊界至少目前非常模糊。

　　中新財(cái)經(jīng)記者：作為中國人工智能學(xué)會AI倫理工作委員會負(fù)責(zé)人，您認(rèn)為，如果有人相信AI具有人格，是否會給人類本身帶來一些問題或困擾？

　　陳小平：如果我們認(rèn)為AI有人格的話，肯定會帶來很多困擾。同時還會帶來一些負(fù)面的后果，有些后果非常嚴(yán)重。

　　比如，人類如何對待AI。如果認(rèn)為AI有人格，那是不是要把AI當(dāng)成人呢？如果把它當(dāng)成人了，那是不是要給它人類的權(quán)利？包括生存權(quán)、財(cái)產(chǎn)權(quán)、投票權(quán)等等，甚至無論AI做了什么危害人類的事情，都要像對待人一樣對待AI。

　　人類到底應(yīng)該如何看待人工智能？這是一個非常根本的問題。如果AI真的具備人格、情感、道德，一般能力又超過人類，就會出現(xiàn)可控性問題。幾乎可以肯定的是，只要AI能夠模仿一種功能，那AI的這種功能遲早會比人強(qiáng)，就像AlphaGo下棋一樣。如果AI的通用能力也超過人，到那時人類憑什么能夠控制AI？這是個疑問。我們現(xiàn)在就要思考這樣的問題，提前做好風(fēng)險防范。

　　當(dāng)然，現(xiàn)在人工智能已經(jīng)讓一些人產(chǎn)生了共情，將來會讓越來越多的人產(chǎn)生共情，這件事是客觀存在的。這將給人機(jī)關(guān)系、人際關(guān)系帶來巨大的新挑戰(zhàn)和新機(jī)遇，是一個新的重大課題。

　　中新財(cái)經(jīng)記者：此前您在智源大會論壇上，提到人工智能倫理治理的幾種挑戰(zhàn)。我們應(yīng)如何應(yīng)對這樣的挑戰(zhàn)？

　　陳小平：對人工智能如何分類，應(yīng)該分為人還是物？我認(rèn)為，我們應(yīng)該把人工智能看成是非人非物的第三種存在物。科學(xué)上，它不是人；從人文的角度說，它不是物。那就是非人非物的第三種存在物。這種觀點(diǎn)與根深蒂固的“二元論”是根本不同的，所以人工智能帶來的顛覆實(shí)際上遠(yuǎn)超科技范疇。

　　如果以這種觀點(diǎn)考慮，能化解很多矛盾和難題，包括上面提到的法律難題，而且可以讓科學(xué)與人文在某種程度上重新“握手言和”；但其中仍有挑戰(zhàn)。有很多科幻作品寫到人類愛上人工智能，如果采用三分法是否就沒這個問題了？其實(shí)仍然會有這樣的問題。

　　所以，我們要想未來怎么適應(yīng)這樣的社會，要判斷會不會出現(xiàn)人類不可接受的嚴(yán)重后果，要不要提前采取措施。

　　中新財(cái)經(jīng)記者：目前國內(nèi)在此方面的進(jìn)展如何？

　　陳小平：這幾年我國人工智能倫理研究的發(fā)展非常快，從民間到政府對人工智能倫理都高度重視。這是個非常好的現(xiàn)象，我們有必要未雨綢繆。

　　在落實(shí)過程中，中國的情況總體上還是比較順利的。這表現(xiàn)在，一些基本原則上大家是有共識的，而且普遍認(rèn)識到，不僅要從理論上研究，更要在實(shí)踐中開展治理。當(dāng)然，如何在治理實(shí)踐中落實(shí)社會共識，仍是我們需要努力的方向。

　　具體怎么治理？這涉及大量實(shí)際問題。我的研究發(fā)現(xiàn)，我們前面談到的可控性和長期后果的不確定性，難以用傳統(tǒng)治理模式有效應(yīng)對，需要探索新的治理方法。

　　除此之外，如用戶隱私、數(shù)據(jù)安全、算法公平透明等問題，用傳統(tǒng)社會治理模式是可以有效應(yīng)對的。我們不用擔(dān)心這類問題會變得失控、解決不了，其中一部分具體問題其實(shí)正在解決之中。