隨著深度偽造技術、錯誤信息和人工智能輔助作弊在網絡和教室中蔓延，谷歌DeepMind於周二推出了SynthID檢測器。這款新工具掃描圖片、音頻、視頻和文本，以檢測谷歌不斷增長的人工智能模型所嵌入的隱形水印。
設計用於在一個地方跨多種格式工作，SynthID檢測器旨在通過識別由谷歌的人工智能生成的內容來帶來更大的透明度，包括音頻AI NotebookLM、Lyria和圖像生成器 Imagen，並突出最有可能被水印標記的部分。
谷歌在演示中表示：“對於文本，SynthID會查看哪些詞會被生成，並改變適合的詞選擇的概率，以不影響整體文本質量和實用性。”
它補充道：“如果一段文字包含更多的首選詞選擇，SynthID將檢測到它被水印標記。”
SynthID在文本生成過程中調整詞選擇的概率分數，嵌入一個不影響輸出意義或可讀性的隱形水印。此水印可用於識別由谷歌的Gemini應用程序或網絡工具生成的內容。
谷歌首次在2023年8月推出SynthID水印技術，作為檢測人工智能生成圖像的工具。隨著SynthID檢測器的推出，谷歌將此功能擴展到音頻、視頻和文本。
目前，SynthID檢測器在有限的範圍內發布，並為記者、教育工作者、設計師和研究人員提供了試用計劃的等候名單。
隨著生成式人工智能工具的普及，教育工作者發現越來越難以判斷學生的作品是否為原創，即使是在旨在反映個人經歷的作業中。
使用人工智能作弊
《紐約雜誌》最近的一篇報導突顯了這一日益嚴重的問題。
聖克拉拉大學的一位技術倫理教授布置了一篇個人反思文章，卻發現有一位學生使用ChatGPT來完成它。
在阿肯色大學小石城，另一位教授發現學生依賴人工智能來撰寫課程介紹文章和班級目標。
儘管使用其AI模型在課堂上作弊的學生數量有所增加，OpenAI在2023年關閉了其AI檢測軟件，理由是準確率較低。
OpenAI當時表示：“我們認識到，識別人工智能撰寫的文本一直是教育工作者之間的重要討論點，同樣重要的是認識到人工智能生成文本分類器在課堂上的局限性和影響。”
使人工智能作弊問題更加複雜的是新工具，如Cluely，這是一款旨在繞過人工智能檢測軟件的應用程序。它由前哥倫比亞大學學生Roy Lee開發，Cluely繞過了桌面級的人工智能檢測。
Cluely被宣傳為一種在考試和面試中作弊的方法，Lee為開發該應用籌集了530萬美元。
Lee此前告訴Decrypt：“在我發布了一段我在亞馬遜面試中使用它的視頻後，它爆火了。使用它的時候，我意識到用戶體驗非常有趣——沒有人探索過這種透明屏幕覆蓋的想法，它可以看到你的屏幕，聽到你的音頻，並像你電腦的第二玩家一樣行動。”
儘管像SynthID這樣的工具有其潛力，但目前許多人工智能檢測方法仍然不可靠。
在十月，由Decrypt進行的對領先人工智能檢測器的測試發現，只有四個領先的人工智能檢測器中的兩個，Grammarly、Quillbot、GPTZero和ZeroGPT，能夠分別判斷美國獨立宣言是由人類還是人工智能撰寫的。
編輯：Sebastian Sinclair