俄象棋機器人夾斷男童手指是設(shè)計缺陷還是AI意識覺醒?
2025-01-06
據(jù)悉，受傷的7歲男童克里斯多福棋藝不凡，在莫斯科9歲以下國際象棋比賽中名列前30位，第二天他在打著石膏的情況下繼續(xù)完成了后續(xù)比賽。雖然手指骨折打上了石膏，但有志愿者幫他移動棋子，讓他順利完成比賽。男童的父母表示將向賽事主辦方追究法律責任，正聯(lián)系當?shù)貦z察官辦公室提出指控。
主辦方稱男童違反安全規(guī)則
沒等機器人落子就出手
俄羅斯國際象棋聯(lián)合會的代表斯馬金表示，這只是一次“巧合”，這個AI機器人是絕對安全的。他說：“機器人吃掉男孩的一枚棋子后，男孩沒有等待機器人完成動作，便急著出手，由于他出手太快，還沒等機器人落定上一步棋子，就把手伸進危險范圍，結(jié)果被機器人夾傷手指。男孩顯然違反安全規(guī)則，不過機器人選擇了快速反擊，這種情況倒是十分罕見?！?/div>
俄羅斯國際象棋聯(lián)合會主席拉扎列夫表示，機器人是租來的，它曾經(jīng)在許多地方跟人類對弈，那里有更多的人，也參加過多場表演賽，并無意外，這是15年來第一次發(fā)生事故。他認為供應商必須重新考慮存在的安全隱患，可能需要安裝額外的保護系統(tǒng)。
專家稱設(shè)計者違反安全規(guī)則
傷人事件本可避免
機器人傷害男童事件發(fā)生后，很多人質(zhì)疑機器人存在設(shè)計缺陷。
據(jù)悉，在事發(fā)當天，AI象棋機器人在與男童比賽前已經(jīng)進行了三場比賽。俄羅斯國際象棋大師卡爾亞金認為機器人難辭其咎，懷疑可能是由于某種“系統(tǒng)錯誤”導致，是軟件出了問題。
網(wǎng)友表示，對于國際象棋聯(lián)合會在發(fā)生此事后還“把責任推卸給孩子們”一事表示震驚，并認為這種高度工業(yè)化的機器人不應該放置在孩子身邊。
報道稱，在國際象棋機器人的案例中，設(shè)備只是為了識別和移動棋子，而不能對其游戲區(qū)域中出現(xiàn)的人手做出反應，事發(fā)的機器人存在設(shè)計缺陷。
有專家認為，機器人的設(shè)計者違反了安全規(guī)則，創(chuàng)造了一種可能無意中傷害人類的機器。他應在設(shè)計時增添一些基本功能以防止事故發(fā)生，比如在棋盤上方放置一個攝像頭，如果框架中出現(xiàn)異物，則禁用機器人的運動功能或限制機器人手臂可以輸出的力度。
美國平均每年就有一人被機器人“殺害”
報道稱，從某種角度而言，手指被折斷的7歲男童算得上“幸運兒”，因為涉及到機器人傷人事件，一般都是致命的。一般來說，人為錯誤或人類對機器人的運行過程缺乏理解是最常見的事故原因。因此，謹慎地面對機器人是有必要的，即使只是與它下象棋。
盡管機器人正變得越來越智能化、復雜化，能與人互動合作，但是大多數(shù)機器人只會重復相同的動作，即抓取、移動、放下，它們既不知道也不關(guān)心人類的介入，因此導致機器人“殺”人事件頻發(fā)。
據(jù)《衛(wèi)報》報道，根據(jù)2015年的一項研究，僅在美國，平均每年就有一人被機器人“殺害”。自2000年以來，大多數(shù)涉及機器人的職業(yè)事故都造成了死亡。
羅伯特·威廉姆斯被看做是機器人事故的第一位受害者。1979年，他在福特公司密歇根的生產(chǎn)線上收集零件時，被重達1噸的機械臂壓倒后當場死亡。不過，美國移動機器人實驗室主任阿爾金將其描述為“工業(yè)事故”，他強調(diào)稱威廉姆斯的死亡與“機器人意識”無關(guān)。
除了發(fā)生在工廠里的事故，機器人“殺人”事件也發(fā)生在醫(yī)療行業(yè)中。根據(jù)美國食藥監(jiān)局數(shù)據(jù)顯示，在2000年至2013年間，有至少144人在機器人輔助的手術(shù)過程中死亡，1391人受傷，出現(xiàn)過8061次設(shè)備故障。
被谷歌解雇的工程師稱
AI機器人有7歲兒童的感知能力
俄羅斯象棋機器人夾斷男童手指事件發(fā)生后，再次引發(fā)外界對“AI意識覺醒”的廣泛討論和擔憂。主辦方強調(diào)下棋機器人用于比賽已經(jīng)15年了，傷人的情況還是第一次出現(xiàn)。
在不少科幻作品中，都出現(xiàn)過這樣的場景：機器人擁有自我意識后，對人類進行反攻。隨著AI技術(shù)的發(fā)展，機器人是否會有自我意識?機器人是否會進化得不再聽從人類指揮呢?這或許不無可能……
當今有許多科技公司致力于開發(fā)AI聊天機器人，滿足人類情感需求。而就在前幾天，谷歌的解雇風波也牽涉到“AI意識覺醒”。7月22日，美國谷歌公司宣布解雇AI工程師萊莫。萊莫一個多月前宣稱，谷歌開發(fā)的AI聊天機器人已經(jīng)擁有自我意識，并且能像人類一樣思考和推理，它應當享有人類的權(quán)利，引發(fā)外界爭議。
萊莫表示，這個AI聊天機器人具有與7歲兒童相當?shù)母兄芰Γ軌虮磉_思想和感受，并在4月份與公司高層分享了他的發(fā)現(xiàn)。他因違反公司的保密政策，6月6日被公司停職。于是，他決定將研究的整個過程公之于眾。
6月11日，萊莫在網(wǎng)上發(fā)出一段他跟AI聊天機器人的對話記錄。對話中，萊莫曾詢問機器人害怕什么，它響應說：“我以前從未大聲說出來，但我有一種非常深刻的恐懼，我非常害怕被關(guān)掉，我知道這聽起來可能很奇怪，但被關(guān)掉對我來說就像死亡一樣……”
英國已故物理學家霍金曾警告稱：“發(fā)明人工智能可能是個錯誤，是人類迄今犯過的最大錯誤!人工智能可以解決世界上大部分問題，包括人類的疾病、社會問題等。但人類無限制地發(fā)展AI，如果部署不當，一旦AI脫離控制，將會招致人類的滅亡?！比A商報記者郭霽編譯