OpenAI已停止其人工智能文本检测工具，原因是在区分ChatGPT创建的文本与人类书写文本时“准确率低”。
该工具于1月公开，但现在当你试图通过这个博客访问它时，会返回一个“页面未找到”错误。
OpenAI打算及时重建一个更好的工具，并表示：“我们正在努力整合反馈，目前正在研究更有效的文本来源技术。
此外，OpenAI正在研究如何为音频和视频内容构建AI探测器，例如使用Dall-E生成的图像。人工智能图像探测器工具已经存在，但事实证明它们很容易被欺骗 通过操纵图像和添加噪声等伪像来将内容标记为“真实”。
这与白宫上周宣布的自愿AI框架相吻合，OpenAI与其他6家领先的AI公司一起选择了该框架。该框架概述了打击潜在有害的深度虚假内容的承诺，人工智能检测器将是实现这一目标的关键组成部分。
OpenAI于2023年1月推出了文本检测工具，以建立分析人工智能生成内容的官方方法。
同月，OpenAI、斯坦福大学和乔治敦大学 发表了一篇论文 关于人工智能生成的虚假信息，突出了对工具的需求，从人工智能生成的文本中准确区分人工书写文本。
“生成式语言模型已经有了很大的改进，现在可以产生难以与人类编写的内容区分的真实文本输出……对于恶意行为者来说，这些语言模型带来了自动创建令人信服和误导性文本的希望，”该论文认为。
潜在的“威胁”包括学生滥用人工智能来帮助作弊作业，以及更极端的情况，如选举干扰等。
OpenAI的工具仅将26%的人工智能生成的文本正确分类为“可能是人工智能编写的”，9%的时间错误地将人工撰写的文本识别为人工智能编写的文本。
它在分析1000个字符以下的非英语语言的文本段落时尤其无效。
OpenAI在7月20日停用了对该工具的访问，没有明确的指示何时会发布更新版本。
人工智能检测工具面临持续的问题
中 斯坦福大学最近的研究事实证明，人工智能检测工具在应用于非英语母语人士撰写的文本时无效。
具体地说，人工智能检测工具错误地将这些文本标记为“人工智能编写的”，这很可能是由于非本土标准的措辞和句法。如果部署到教育环境中，这可能会带来偏见-尽管文本是真实的，但可能会被错误地标记为人工智能。
具有讽刺意味的是，该研究团队经常可以欺骗人工智能检测器，通过将相同的文本输入ChatGPT，并要求其用更复杂的措辞重写文本，将其重新标记为“人类书写”。因此，学生可以转向AI来避免AI检测。
随着人工智能生成的内容变得越来越复杂，人工智能检测器的准确性将变得越来越令人担忧。
