由于担心该工具的历史准确性，谷歌暂时禁用了Gemini的人工智能图像生成器。
人工智能被发现产生了不同的人物形象，如美国国父和纳粹时代的德国士兵，尽管这些形象在促进多样性方面用心良苦，但引发了广泛的争议。
双子座，创造美利坚合众国开国元勋的形象www.example.com
-Tsarathustra(@tsarnick)2024年2月20日
谷歌已经公开承认了这一问题，并发表声明称，“我们已经在努力解决双子座图像生成功能最近出现的问题。”并保证很快就会发布改进版本。
我们已经在努力解决最近的问题与双子座的图像生成功能。当我们这样做的时候，我们将暂停人物的图像生成，并将很快重新发布一个改进的版本。https://t.co/SLxYPGoqOZ
– Google Communications（@ Google_Comms）2024年2月22日
当用户注意到人工智能生成的图像包括不同的种族和性别身份时，这个问题就被发现了，这些身份在历史上是不准确的。
The Verge的一项测试显示，该模型倾向于在19世纪生成黑人和美洲原住民女性作为美国参议员的图像，尽管历史记录是第一位白人女参议员在1922年就职。
双子座真是个笑话https://t.co/0MIzi03GIP
– Paul Graham（@ paulg）2024年2月20日
对此，谷歌表示：“我们正在努力提高双子座生成人物图像的能力。我们预计这一功能将很快恢复，并将在发布更新时通知您。
除了这个具体的问题，双子座因为它的可靠性差，生成无关的图片，或者根本没有为某些提示生成任何图片而受到批评，包括对谷歌自己的联合创始人拉里·佩奇和谢尔盖·布林的荒谬描述。
双子座无法生成谷歌创始人的称职照片。
据报道，人工智能还完全拒绝某些涉及人的文本和图像提示。
公平地说，这些“测试”中的一些在其他图像生成器中产生了类似的结果。尽管如此，谷歌确实感觉像是明确地编程双子座，以牺牲一切理性和理性为代价，提供种族和性别多样化的输出。
双子座的行为也与正在进行的关于“唤醒人工智能”的争论有关。
包括埃隆·马斯克（Elon Musk）在内的一些知名人士批评人工智能反映了“觉醒思维病毒”的倾向，认为向人工智能灌输政治正确或过于包容的内容可能导致对现实和历史事实的扭曲。
批评人士认为，人工智能努力做到包容性，不应该以牺牲事实的准确性为代价，特别是在历史表现方面。
这是一个关键的营销主题，当马斯克的xAI发布Grok称之为“反觉醒”
实验发现谷歌和OpenAI的模型显示出左翼倾向，而开源模型可能在政治轴心上更右倾。
一些人会觉得这些行为大多是良性的，其他人基本上是有害的。
再加上本周ChatGPT的疯狂幻觉插曲，这对人工智能来说并不是最稳定的时期。
