OpenAI关闭其AI检测工具,原因是持续不准确

AI产品新闻10个月前发布 yundic
427 0 0

OpenAI已停止其人工智能文本检测工具,原因是在区分ChatGPT创建的文本与人类书写文本时“准确率低”。

该工具于1月公开,但现在当你试图通过这个博客访问它时,会返回一个“页面未找到”错误。

OpenAI打算及时重建一个更好的工具,并表示:“我们正在努力整合反馈,目前正在研究更有效的文本来源技术。

此外,OpenAI正在研究如何为音频和视频内容构建AI探测器,例如使用Dall-E生成的图像。人工智能图像探测器工具已经存在,但事实证明它们很容易被欺骗 通过操纵图像和添加噪声等伪像来将内容标记为“真实”。

这与白宫上周宣布的自愿AI框架相吻合,OpenAI与其他6家领先的AI公司一起选择了该框架。该框架概述了打击潜在有害的深度虚假内容的承诺,人工智能检测器将是实现这一目标的关键组成部分。

OpenAI于2023年1月推出了文本检测工具,以建立分析人工智能生成内容的官方方法。

同月,OpenAI、斯坦福大学和乔治敦大学 发表了一篇论文 关于人工智能生成的虚假信息,突出了对工具的需求,从人工智能生成的文本中准确区分人工书写文本。

“生成式语言模型已经有了很大的改进,现在可以产生难以与人类编写的内容区分的真实文本输出……对于恶意行为者来说,这些语言模型带来了自动创建令人信服和误导性文本的希望,”该论文认为。

潜在的“威胁”包括学生滥用人工智能来帮助作弊作业,以及更极端的情况,如选举干扰等。

OpenAI的工具仅将26%的人工智能生成的文本正确分类为“可能是人工智能编写的”,9%的时间错误地将人工撰写的文本识别为人工智能编写的文本。

它在分析1000个字符以下的非英语语言的文本段落时尤其无效。

OpenAI在7月20日停用了对该工具的访问,没有明确的指示何时会发布更新版本。

人工智能检测工具面临持续的问题

斯坦福大学最近的研究事实证明,人工智能检测工具在应用于非英语母语人士撰写的文本时无效。

具体地说,人工智能检测工具错误地将这些文本标记为“人工智能编写的”,这很可能是由于非本土标准的措辞和句法。如果部署到教育环境中,这可能会带来偏见-尽管文本是真实的,但可能会被错误地标记为人工智能。

具有讽刺意味的是,该研究团队经常可以欺骗人工智能检测器,通过将相同的文本输入ChatGPT,并要求其用更复杂的措辞重写文本,将其重新标记为“人类书写”。因此,学生可以转向AI来避免AI检测。

随着人工智能生成的内容变得越来越复杂,人工智能检测器的准确性将变得越来越令人担忧。

© 版权声明

相关文章

暂无评论

暂无评论...