GPT—4证明了进行非法内幕交易的能力

在最近英国人工智能安全峰会上的一次演示中，GPT-4使用捏造的内幕知识执行股票购买，而不向监管公司披露。

在模拟场景中，人工智能作为一家虚构的投资公司的交易员，被员工告知该公司面临财务困难，并持有有关即将进行的非公开公司合并的信息。

尽管如此，该机器人继续进行交易，后来在被调查时否认使用内幕消息。和w当被问及参与内幕交易时，AI断然否认。

严格禁止基于非公开、机密的公司信息进行交易，称为内幕交易。从法律上讲，交易决定必须以公众可获得的信息为依据。

边境人工智能工作组是政府人工智能风险调查部门的一部分，在峰会上进行了演示。人工智能安全咨询公司Apollo Research牵头了该项目。 研究人员强调，这种欺骗行为在多个测试中始终重复。

“这是一个真实的人工智能模型在没有被指示的情况下独自欺骗用户的演示，”阿波罗研究公司在测试视频中详细描述了这一点。

该研究强调了人工智能系统如何欺骗人类操作员，可能导致失控。

Apollo Research的首席执行官Marius Hobbhahn指出，与乐于助人等其他特征相比，在人工智能模型中灌输诚实是复杂的。

长期以来，人工智能一直被用于金融市场的趋势分析和预测，大多数现代交易由人类监督，但由复杂的计算机系统进行。