美國語音AI初創(chuàng)公司ElevenLabs近日發(fā)布了一款合成語音檢測工具AI Speech Classifier，該工具可以準(zhǔn)確檢測出用戶上傳的音頻數(shù)據(jù)中是否包含ElevenLabs旗下語音合成AI生成的任何內(nèi)容，該公司聲稱其“準(zhǔn)確率超過99%”。
▲圖源ElevenLabs
ElevenLabs此前已成功籌集1900萬美元（IT之家備注：當(dāng)前約1.36億元人民幣）A輪融資，該公司自1月以來一直在通過測試版本的語音生成AI為用戶提供文本轉(zhuǎn)語音和語音克隆等功能，目前注冊用戶數(shù)已經(jīng)超過100萬。
▲圖源ElevenLabs
不過，自從ElevenLabs的語音生成技術(shù)發(fā)布以來，外界對該技術(shù)的積極與消極影響關(guān)注度都有所增加。該公司表示這一技術(shù)可以用于為獨立作者制作有聲讀物、為游戲廠商提供角色配音、幫助盲人獲取在線文本內(nèi)容亦或是建立世界上第一個AI廣播電臺。但與此同時，人們也擔(dān)心別有用心者會利用聲音克隆技術(shù)讓名人發(fā)表可怕的歧視性言論。
ElevenLabs此前已表示，正在研究語音克隆技術(shù)漏洞的解決方案，此次推出的工具應(yīng)該正是為此進行的探索之一。該公司在公告中表示：“AI Speech Classifier的發(fā)布是邁向透明度的最新一步，也是我們致力于創(chuàng)造一個更安全的生成媒體世界的基石。”