Google工程师公开讨论Bard的局限性

AI产品新闻1年前 (2023)发布 yundic
143 0 0

Google为其AI聊天机器人Bard保留了一个独家的Discord聊天室,这是Google工程师、产品经理和设计师坦率地讨论和评估AI工具的性能和价值的空间。

内部对话表明,谷歌研究人员并没有完全投入到Bard的有效性或有用性上,与ChatGPT等其他人工智能聊天机器人相比,Bard仍然是一个次要的选择。

从7月到10月, 彭博 从两名社区参与者那里了解了Google Bard Discord服务器中的讨论细节。讨论揭示了关于巴德的功效和用途的内部争论。

Badard的高级产品经理Dominik Rabiej在7月份的一则关于Discord的消息中表达了谨慎的怀疑态度。

他说,“我的经验法则是不相信LLM的输出,除非我能独立地验证它”,揭示了巴德能力的持续不确定性。

另一位杰出的执行官,Bard的用户体验负责人Cathy Pearl,也对Bard在现实世界中的有用性表示含糊。

自今年3月作为OpenAI ChatGPT的竞争者推出以来,Bard经历了一系列功能更新,例如照片分析功能和多语言响应生成。虽然令人印象深刻,但它并没有像OpenAI发布的“GPT—4V”那样引起轰动,该产品在GPT—4模型中增加了图像识别功能。

上个月,谷歌雄心勃勃地将Bard与Gmail、地图、Docs和YouTube等几个Workspace工具联系在一起,从9月19日开始整合。根据不和谐的聊天,随着Bard进一步与谷歌的产品交织在一起,出现了更多问题。

人们对人工智能工具产生毫无根据的事实并提供潜在危险的建议的抱怨浮出水面,导致谷歌在宣布应用程序扩展的同一天在Bard上引入了一个搜索按钮。

该功能使用户能够根据Google搜索引擎结果验证Bard人工智能生成的响应,以增强真实性。

关于那些帮助培训BARD的人-数千名低薪承包商-也出现了更多的争议。谷歌并不是唯一一个这样做的人–这是人工智能行业的典型特征,它依赖于广泛的第三方援助来自数据标签公司。

人工智能挑战 Google的搜索优势 使用OpenAI和各种初创公司的工具,可能会削弱搜索,进而削弱广告收入。

Discord小组还看到了用户对各种与Google相关的敏感话题的讨论。据称,一名成员在提出道德问题后, Nimbus计划谷歌和亚马逊签署了一份价值12亿美元的合同,向以色列军方提供人工智能工具。

尽管对资源成本和巴德的准确性有不同的看法,但产品经理沃肯丁证实,他们专注于“减少幻觉,增加真实性”,并指出自巴德获释以来,情况有了明显的改善。

但Rabiej提醒用户,像所有法学硕士一样,巴德缺乏对它处理的文本的真正理解,强调了它的生成性。

Bard可能不会成为谷歌的旗舰AI产品很长时间,因为讨论了一种新的多模式 叫做双子座计划 正在酝酿然而,目前还没有什么具体的讨论。

© 版权声明

相关文章

暂无评论

暂无评论...