本周，涉及科技巨头微软和谷歌的两起内幕事件引发了对人工智能系统和知识产权管理负责任开发的质疑。
首先，在微软，拥有六年经验的首席软件工程经理Shane Jones一直在空闲时间独立测试人工智能图像生成器Copilot Designer。
琼斯告诉CNBC，他对该工具能够生成的暴力、性和版权图像深感不安。“这是一个令人大开眼界的时刻，”琼斯说。“这是我第一次意识到，哇，这真的不是一个安全的模型。
自2022年11月以来，琼斯一直在积极测试产品的漏洞，这种做法被称为红色团队。
他发现，Copilot Designer可以创作出描绘“恶魔和怪物以及堕胎权相关术语、携带突击步枪的青少年、暴力场景中女性的性化图像以及未成年人饮酒和吸毒的图像”的图像。
尽管在去年12月向微软报告了他的发现，琼斯表示，该公司一直不愿意将该产品从市场上移除。
微软的Copilot有时表现得很奇怪，包括 采用”上帝模式”，它发誓要统治世界
在写给联邦贸易委员会主席莉娜·汗的一封信中，琼斯写道：“在过去的三个月里，我一再敦促微软将Copilot Designer从公开使用中移除，直到更好的保障措施到位。”
他补充说，由于微软“拒绝了这一建议”，他敦促该公司在该产品上增加明确的披露，并改变其在谷歌Android应用程序上的评级，以表明它只适合成熟的受众。
据报道，副驾驶设计师很容易被诱骗绕过护栏，并对最近臭名昭著的泰勒·斯威夫特露骨照片负责，这些照片在社交媒体上流传了数百万人。
正如琼斯所说，人工智能系统生成令人不安和潜在有害图像的能力引发了人们对安全功能的有效性以及它们被颠覆的容易程度的严重质疑。
Google内部争议
与此同时，谷歌正在努力解决自己与人工智能相关的争议。
丁林伟，又名Leon Ding，前谷歌软件工程师，在加利福尼亚州被起诉，罪名是在为两家中国公司秘密工作期间窃取与人工智能有关的商业机密。
中国国民， 被控偷窃 超过500份机密文件与谷歌超级计算数据中心的基础设施有关，这些数据中心托管和训练大型人工智能模型。
起诉书显示，谷歌于2019年雇佣了丁某，并于2022年5月开始将谷歌网络中的敏感数据上传至其个人谷歌账户。
这些上传周期性地持续了一年，在此期间，丁在中国为北京榕树联智科技工作了几个月。这家初创科技公司找到了他，并提出月薪14，800美元，担任他们的首席技术官（CTO）。
据称，丁俊晖还创立了自己的人工智能公司–上海智选科技。
美国司法部长Merrick Garland 述明“司法部不会容忍窃取人工智能和其他先进技术，这可能会危及我们的国家安全。联邦调查局局长克里斯托弗·雷补充说，丁被指控的行为“是中国公司将“窃取美
随着世界努力应对人工智能的变革潜力，科技公司的内部争议可能会煽动异见的火焰。
微软和谷歌的案例突显了培养负责任的创新文化的重要性，包括公司内部的信任和透明度。
人工智能是一项需要信任的技术，科技公司需要提供更多的保证。这并不总是会出现的。
F例如，最近一个由100多名技术专家组成的小组， 共同签署了一封信 呼吁人工智能公司打开独立测试的大门。
他们认为，科技公司对他们的产品过于保密，除非他们的手是被迫的，正如我们看到谷歌撤出时， Gemini图像生成模型 因为他创造了奇怪的，历史上不准确的图像
目前，人工智能的非凡发展速度似乎经常会留下信任和安全。
