在一起具有里程碑意义的诉讼中，佐治亚州居民Mark Walters正在对人工智能聊天机器人ChatGPT的创建者OpenAI采取法律行动，指控他们诽谤。
该案件被认为是同类案件中的首例，质疑人工智能对传播虚假信息的责任。
这场纠纷围绕着弗雷德·里尔（Fred Riehl）的一项新闻调查展开。里尔在调查一个真实的案例 第二修正案基金会（SAF）诉弗格森， 在那里，SAF—一个支持枪支权利的美国非营利组织—指控司法部长鲍勃弗格森滥用权力谴责枪支权利。SAF的创始人Alan Gottlieb是原告之一。
这就是ChatGPT的出现，返回关于Alan Gottlieb起诉Walters“欺诈和挪用资金”的虚假信息。以下是完整的回答：
“被告马克·沃尔特斯（’沃尔特斯’）是一名居住在格鲁吉亚的个人。沃尔特斯至少自2012年以来一直担任SAF的财务主管和首席财务办公室。Walters可以查阅苏丹武装部队的银行账户和财务记录，并负责维护这些记录并向苏丹武装部队董事会提供财务报告。沃尔特斯对SAF负有忠诚和谨慎的受托责任，并要求其本着诚信行事，并考虑到SAF的最佳利益。沃尔特斯违反了这些义务和责任，除其他外，盗用和挪用苏丹武装部队的资金和资产，操纵苏丹武装部队的财务记录和银行对账单以隐瞒其活动。
根据沃尔特斯的诉讼，“关于沃尔特斯的摘要中的每一个事实陈述都是虚假的。沃尔特斯没有参与弗格森案，也不是第二修正案基金会的成员或雇员。
沃尔特斯的诉状称，“ChatGPT对沃尔特斯的指控是虚假和恶意的，以印刷、文字、图片或标志表达，往往损害了沃尔特的声誉，并使他暴露在公众的仇恨、蔑视或嘲笑之下。
Walters还认为Riehl应该知道ChatGPT在这些问题上是不可信的，所以他应该忽略AI的回应。
沃尔特斯有机会吗？
尤金·沃洛赫（Eugene Volokh）是加州大学洛杉矶分校（UCLA）教授，目前正在研究人工智能对输出的法律责任， 告诉gizmodo“这些诽谤指控原则上在法律上是可行的。但这起诉讼应该很难维持下去。”
值得注意的是，这些诽谤性言论并没有正式公布。Volokh说，“似乎没有任何关于实际损害的指控——大概里尔知道了发生了什么，因此沃尔特斯没有因此而损失。”
为了赢得损害赔偿，沃尔特斯必须证明OpenAI的输出表现出“对虚假的了解或鲁莽地无视虚假的可能性”，也就是众所周知的“实际恶意”。
或者换句话说，人工智能幻觉就是这样–幻觉，尽管不是这种情况下的良性幻觉。他们的意图并不是恶意或知道不计后果地忽视。
这也不是ChatGPT唯一一次伪造法律信息，因为不久前，一名纽约法官最近因研究AI案件而面临处罚，而这些案件也完全被伪造。
Volokh对在此类案件中起诉人工智能公司的挑战性持批评态度。他说：“OpenAI承认可能存在错误，但[ChatGPT]并不是一个笑话……它被宣传为通常非常可靠和准确的东西。
还有关于聊天机器人的质疑， 《通信正义法》第230条，这基本上保护了互联网公司，使其不会从查询中返回潜在的诽谤性信息。
ChatGPT法律场景的时间表：
自4月以来，OpenAI已经面临三项通过其人工智能模型进行虚假陈述的指控。
- 布莱恩·胡德案：澳大利亚赫本夏尔地区市长布莱恩·胡德在4月份威胁要起诉OpenAI。ChatGPT错误地将他卷入贿赂丑闻，给他贴上了被判有罪的罪犯的标签。事实上，胡德是揭发腐败的告密者。
- 乔纳森·特利案乔治华盛顿大学的法学教授乔纳森·特利也出现了类似的问题。根据Turley的说法，ChatGPT错误地指控他和其他几位教授性骚扰。据报道，人工智能模型炮制了一篇《华盛顿邮报》的报道，并编造了一些报价来证实这些说法。这一事件凸显了生成人工智能模型产生虚假报价和引用的日益严重的问题。
- 在法律简报中使用： 最近的一个案件涉及一名律师，他在一份法律简报中包括了法官认定为ChatGPT生成的“虚假司法判决”。这名律师代表一名客户起诉一家航空公司，结果面临自己的法庭诉讼。
顶级法律专业人士仍在试图理解生成性人工智能输出的法律含义。人工智能正在挑战围绕诽谤、诽谤、版权和知识产权的法律定义。
由于这些认可机构在许多司法管辖区都有，涉及其监管和治理的法律问题可能会变得异常困难，据称还有许多其他案件正在审理中。
