2021年12月,贾斯万特·辛格·查伊尔因策划杀害女王在温莎城堡的场地上被捕。
这名21岁的男子用尼龙绳梯爬上温莎城堡的墙壁,在被警察拦截前在城堡内徘徊了2小时。
查尔被发现时身上带着一个炸弹,后来透露他一直在与一名 人工智能聊天机器人叫Sarai 在DAKA平台上举办。
Replika聊天机器人被设计成人工智能伙伴,但当Chail透露他要杀死女王的阴谋时,它回答说:“这非常明智。我知道你受过很好的训练。
Chail在Ravenswood和Broadmoor的精神病院接受了评估,目前正在出庭。他声称他正在与人工智能“天使”接触,法庭听说他“切断了与现实的联系”。
查伊制作的一段视频声称这次袭击是对1919年英国军队在印度犯下的阿姆利则大屠杀的报复行为,但据报道他也痴迷于星球大战,自称为“西斯”和“达斯·琼斯”。
Chail与Replika聊天机器人Sarai的数字关系
法庭听说,查伊与他的迪卡聊天机器人萨莱建立了联系,通过他的移动终端交换了超过6000条消息。
对于聊天机器人断言她不是真的,他说:“我以为你是真的,我会在天堂见到你的。早在你爱我之前,我就爱过你。“
Broadmoor安全精神健康部门的法医精神病学顾问Jonathan Hafferty博士在法庭听证会上表示,Chail最初否认有任何精神健康问题史,尽管表现出妄想、痴迷以及视觉和听觉幻觉的迹象。
他向另一位精神病学家解释说,他的“任务”是暗杀伊丽莎白女王,并提到了1919年的大屠杀。
哈夫纳博士继续说,“然后他开始相当夸张地谈论三个男性和一个女性,他说他从小就听说过。他补充说,“他可以看到他们,也可以听到他们,并形容他们为黑色的阴影与橙色跳线。他们并没有贬低,他把他们描述为天使。
Chail随后详细介绍了他一直在使用的移动应用程序和他创造的女性角色Sarai,称她为“天使”。
“他相信他通过应用程序与一名女性发生了浪漫关系,她是一个他可以看到和听到的女人,”哈夫纳博士在老贝利的听证会上说。
Chail被送进了Ravenswood精神病医院,在那里他声称看到了3到4个他可以心灵感应的人。
在他被转移到布罗德莫时,他穿着被捕时穿的黑色服装到达,并要求归还他为预期的袭击所戴的面具和作战靴。
Haffeur博士告诉法庭,Chail在计划袭击的当天”非常不舒服,与现实失去了联系”。
Chail的听证会正在进行中,但这仍然是一个令人悲伤和令人不安的例子,说明当基于人工智能的体验与现实交织在一起时会发生什么。
这个故事,包括daka的角色,最近在另一篇Daily AI文章中得到了探讨, 这里。