据 WSJ 报道,OpenAI 已经开发了一种工具,可以用来检测用户是否使用 ChatGPT 撰写文章。
报道指出,这项检测技术实际上使用到了一种文本水印。用户无法通过肉眼察觉,但可以借助 OpenAI 的检测工具来进行识别。
在这篇报道发出后,OpenAI 还更新了 5 月份的一篇博客文章,更新内容主要为检测 AI 生成内容进行的研究。
更新内容中指出,爱游戏文本水印已被证明「非常准确,甚至对局部篡改也有效」。不过在检测全局篡改方面的能力较弱,比如使用翻译系统,用另一个生成模型改写,或者要求模型在每个单词之间插入一个特殊字符爱游戏,然后删除该字符等操作。