近期，一款由美國“開放人工智能研究中心”研發(fā)的聊天機器人程序ChatGPT，熱度持續(xù)飆升，在全球范圍內吸引了大量用戶，因其出色的用戶體驗，成為一款現(xiàn)象級產品。
簡單來說，ChatGPT就是一個會聊天的機器人。它可以進行長時間、流暢的對話，回答問題，還能根據(jù)聊天的上下文進行互動，并撰寫人們要求的幾乎任何類型的書面材料，用時僅需1秒鐘。
據(jù)外媒報道，“開放人工智能研究中心”最大的投資方微軟表示，可能會將ChatGPT整合到Word、PowerPoint、Outlook和其他應用程序中，此舉可能會改變超10億人編寫文檔、演示文稿和電子郵件的方式。
隨著ChatGPT熱度飆升，質疑和爭議也隨之而來，有分析指出，這種技術在教育和學術界可能引發(fā)濫用問題。
調查顯示在美國，有不少大學生在用ChatGPT做作業(yè)。因此紐約、洛杉磯等城市，已開始禁止在教室和任何學校設備上使用ChatGPT，理由是學生可以使用它輕松完成各類作業(yè)與測試。
ChatGPT的走紅也引發(fā)了學術界的擔憂，強大的語言理解和學習能力，使其產出的學術摘要可以騙過期刊審稿人。目前，已有多家知名學術期刊正在更新編輯規(guī)則，禁止將ChatGPT列為論文合著者，且不允許在論文中使用其所生產的文本。
此外，還有用戶聲稱，已經(jīng)找到了挖掘其所謂“黑暗面”的方法，可利用所謂“越獄”技巧迫使人工智能違反自己的規(guī)則，為用戶提供任何他們想要的內容。
歐盟官員日前表示，正在評估ChatGPT的風險，考慮設立規(guī)章制度，以規(guī)范其使用，確保向用戶提供高質量、有價值的信息和數(shù)據(jù)。
上海市人工智能學會副秘書長江勇博士分析，科技的進步在歷史上都是“雙刃劍”，既要享受到科技的成果，同時也要去防范風險和不足，特別是在立法上要設置“紅線”，運用法治工具，才能讓人工智能新科技走得更長遠。