OPENAI 确认正在研究 ChatGPT 文本水印
人工智能公司 OpenAI 的团队已经开发出一种文本水印方法，并会在研究替代方案时继续考虑这种方法。
虽然它在抵御例如释义等局部篡改方面具有很高的准确性，甚至很有效，但对全局篡改的防御能力较弱；例如使用翻译系统，用另一个生成模型改写，或者要求模型在每个单词之间插入一个特殊字符，然后删除该字符，这使得不良行为者可以轻松规避。
以及可能对非英语人士等群体造成不成比例的影响。该公司正在讨论是否真正发布该工具。OpenAI 去年关闭了其之前的 AI 文本检测器，理由是“准确率低”。
OpenAI 正在研发一种新颖的文本水印技术，用以识别和检测由 ChatGPT 生成的文本。这项技术通过在文本中嵌入不可见的水印来实现，通过对 ChatGPT 选择单词的方式进行微小的更改来实现这一点，本质上是在文字中创建一个不可见的水印，以后可以被一个单独的工具检测到。
但目前仍面临不少挑战。例如，面对文本翻译、改写或特殊字符的插入，水印的识别效果可能会大打折扣。同时，该技术可能对那些不以英语为母语的用户群体产生不公平的影响。鉴于这些复杂性，OpenAI 表示将审慎地继续研究，并更注重于视听内容认证工具的开发。
OpenAI 已经开发出一种 99.9% 有效的 ChatGPT 文本水印系统，但由于潜在的用户反弹，他们犹豫是否发布。
虽然一项调查显示人们强烈支持 AI 检测工具，但 OpenAI 担心水印可能会阻止用户使用，近 30% 的人表示他们会减少使用 ChatGPT。内部也存在对水印易于被绕过的担忧。尽管存在这些挑战，OpenAI 仍在探索其他更不具争议性的方法来检测 AI 生成的文本。
如果想详细了解，可以点开视频下方的链接。
谢谢观看本视频。要是喜欢，请订阅、点赞。谢谢
留言
發佈留言