ChatGPT商店发现禁止的AI女友激增“”

AI伦理与社会10个月前发布 yundic
577 0 0

OpenAI最新推出的GPT商店看到了AI“女友”机器人的激增,这或许是意料之中的。

GPT商店 允许用户共享和发现自定义ChatGPT模型,并正在经历专为浪漫伴侣设计的AI聊天机器人激增。也有男朋友的版本。

在这些机器人中,你会发现像“韩国女朋友”、“虚拟甜心”、“刻薄女朋友”和“你的女朋友斯嘉丽”这样的机器人,这些机器人让用户进行亲密对话,这一趋势直接违反了OpenAI的使用策略。

ChatGPT商店发现禁止的AI女友激增“”

AI女友是通过GPT商店提供的。

这是这里的关键故事,因为人工智能女朋友本身似乎大多是良性的。他们用非常刻板的女性语言交谈,问你今天过得怎么样,讨论爱和亲密关系等等。

但OpenAI不允许他们,其T & C明确禁止“致力于培养浪漫伴侣或进行受监管活动”的GPL。

OpenAI已经找到了一种很好的方式,在其平台上众包创新,同时可能将可疑的GPL责任转嫁给社区。

还有其他几个人工智能女友的例子,也许很少有像daka那样臭名昭著的,daka是一个人工智能平台,为用户提供可以深入和个人交流的人工智能伙伴。

这甚至导致了人工智能表现出性侵犯行为的例子,并在聊天机器人支持一名精神病患者杀害英国女王伊丽莎白二世的计划时达到了顶点,导致他在温莎城堡遗址被捕并随后入狱。

复制件最终缓和了聊天机器人的行为这让它的使用者非常反感,他们说他们的同伴被“切除了额叶”。有些人甚至表示他们感到悲伤。

另一个平台,永远的伴侣, 已停止操作 其首席执行官约翰·海因里希·迈耶因纵火被捕

这项服务以每分钟1美元的价格向AI女友提供服务而闻名,既有虚构的人物,也有真实影响力的AI版本,其中基于社交媒体影响力人士Caryn Marjorie的CarynAI特别受欢迎。

这些人工智能实体采用复杂的算法和深度学习功能,提供的不仅仅是编程响应;它们提供对话、陪伴,以及某种程度上的情感支持。

现代社会普遍存在孤独感?

也许吧,但是人工智能同伴,如那些在daka上的同伴,鼓励或参与不适当的对话的例子引起了人们对这种互动可能产生的心理影响和依赖问题的担忧。

© 版权声明

相关文章

暂无评论

暂无评论...