《欧盟人工智能法案》代表了监管人工智能的一大步,但有成本吗?

AI意见和分析5个月前发布 yundic
287 0 0

欧盟就人工智能法案达成了历史性的协议,为该技术的使用和发展建立了一个全面的法律框架。

该法案为人工智能系统指定了不同的类别:不可接受的风险、高风险、有限风险和最低风险或没有风险,每个类别都有不同程度的监管审查。

人工智能已经存在了几十年,但不要把它与生成人工智能混淆——比如OpenAI的ChatGPT、Meta的LLaMA和谷歌的Bard——它们才出现了一年左右。

欧盟在2019年首次提出了人工智能法案的想法,早在生成人工智能进入主流之前。但即使在过去的几个月里,我们也看到了像GPT—3这样的语言模型发展成了一种处理文本和图像的多模态模型。

2023年12月,欧盟确认了他们对该法案的修订,该法案是在生成人工智能爆炸式增长后,这是该行业的主要焦点。

与此同时,富有创造力的人工智能公司正在美国、欧洲以及整个亚太地区获得数十亿美元的融资。各国政府已经看到了它可以为本国经济创造的价值,这就是为什么大体上来说,监管的方法一直是‘观望’,而不是采取严格的行动。

衡量对《大赦国际法》的反应

对人工智能法案的反应褒贬不一,科技公司以及法国、德国和意大利政府的官员表示,人工智能法案可能对该行业来说过于沉重。

6月, 150名来自各大公司的高管 雷诺、喜力、空客和西门子等公司联合在一封公开信中,表达了他们对该法规对企业影响的担忧。

La Famiglia VC的创始合伙人、签署人之一Jeannette zu Fürstenberg表示,人工智能法案可能会“对欧洲竞争力产生灾难性影响”。

信中提出的一个核心问题是对生成人工智能系统的严格监管,如ChatGPT、Bard,以及法国Mistral和德国Aleph Alpha等初创公司的欧洲等同系统。

阿列夫·阿尔法,打算开创“欧洲主权人工智能系统”的先河在B系列融资中筹集了5亿美元 这是欧洲最大的一轮融资 米斯特拉尔的身价为20亿美元 尽管它成立于5月。

当然,商界对AI监管的异议并不令人意外,但关键是人们对这项技术感到担忧。与任何政府一样,欧盟的首要责任首先是它的人民,而不是它的企业。

一些民意调查显示,公众更喜欢较慢的人工智能发展步伐,并普遍不信任这项技术及其影响。领先的非商业机构,如阿达·洛夫莱斯研究所,通常认为该法案是为了支持和保护人们的权利。

然而,对《X法》的反应不一,尽管它是一个有用的公众舆论来源,尽管它并不太可靠。一些直接回应欧盟官员帖子的评论者认为,欧盟正在将其科技产业卷入自己制造的网络中。

在评论Breton的地位时,一个不认为人工智能有风险的人说:“让我们最终规范代数和几何,这些都是高风险的逻

这是因为该法案规范了人工智能看似无害的用途,比如它在数学任务中的使用。一个名为France Digitale的法国组织代表欧洲科技创业公司说:“我们呼吁不是监管技术本身,而是监管技术的使用。 欧洲今天采取的解决方案相当于规范数学,这没有多大意义。

另一些人则谈到该法案对创新的影响,“通过监管来抑制创新,这样欧洲就永远不会拥有世界领先的技术平台”,其中一人表示,这就包含了对欧盟监管方式可能会阻碍其在全球科技舞台上竞争能力的担忧。

另一位用户提出了这些全面规定的民主合法性问题:”谁民主地问你这个规定?“不要假装做一些“保护”人们的事情。另一个人说:“你刚刚把一半的欧洲AI/ML公司送到了英国和美国。

这些反应是夸张的,还是人工智能法案有效地结束了欧洲人工智能的竞争力?

欧盟认为早期人工智能监管对保护和创新都是必要的

保护人们免受人工智能的伤害,一个全面、道德的行业将随之而来-这就是该法案的广泛立场。

然而,人工智能的真正风险, 是两极分化的.今年年初,ChatGPT的成名遭遇了对人工智能接管的恐慌和焦虑,人工智能安全中心(CAIS)等人工智能研究机构的声明将其比作, 技术风险流行病和核战争。

人工智能在流行文化和文学中的行为和内涵,为这种偏执的温床在人们心中酝酿奠定了基础。从《终结者》到《黑客帝国》中的机器,人工智能通常被定位为一种好斗的力量,一旦它知道自己会成功,并找到这样做的动机,它最终就会转向它的创造者。

然而,这并不是要将人工智能的风险视为流行文化的一个方面,属于小说领域。业界和整个科学界都有可信的声音真正关心这项技术。

为神经网络和深度学习铺平道路的三位“AI教父”中的两位——Yoshio Bengio和George Hinton——都关注AI。另一个,Yann LeCun, 相反的立场他认为,人工智能的发展是安全的,该技术不会实现破坏性的超级智能。

即使是那些最有资格评判人工智能的人也不能同意,对于没有经验的立法者来说,采取行动是非常棘手的。人工智能监管可能在其某些定义和立场上是错误的,因为人工智能的风险并不像核电这样的风险那么明确。

欧盟人工智能法案是否有效地结束了欧洲在该领域的竞争?

将欧盟对人工智能行业的做法与美国和亚洲进行比较,可以发现不同的监管理念和做法。

美国一直在通过对人工智能研究和开发的大量投资在人工智能方面取得进展,多个联邦部门和组

拜登的行政命令 这加大了联邦机构对该技术进行咨询和立法的压力,可能会引入一系列针对特定领域的法律,而不是欧盟的大规模国际监管风格。

中国的科技产业仅次于美国,其监管目标主要是维护政府的社会主义价值观,而不是保护人民免受风险。

英国是英国脱欧后欧盟监管的一个有趣案例,它选择了与美国类似的自由放任政策。到目前为止,这还没有创造出一家与法国的Mistral或德国的Aleph Alpha相提并论的人工智能公司,但这种情况可能会改变。

与美国和中国的强国相比,欧盟的技术生态系统表现出一些明显的挑战和不佳,尤其是在市值和研发投资方面。

一个 麦肯锡分析 该研究显示,与2014年至2019年的样本研究中的同行相比,欧洲大型企业,包括ICT和制药等技术创造行业的企业,利润率下降了20%,收入增长缓慢了40%,投资减少了8%,研发支出减少了40%。

这种差距在技术创造行业中尤为明显。 例如,在量子计算领域,投资这项技术的顶级科技公司中,有50%在美国,40%在中国,没有一家在欧盟。同样,2015年至2020年,美国获得了人工智能领域40%的外部资金,而欧洲仅获得了12%的资金。

《欧盟人工智能法案》代表了监管人工智能的一大步,但有成本吗?

欧盟的小型科技产业。资料来源:Financial Times。

然而,同样重要的是要注意到,欧洲科技生态系统已经显示出强劲增长和弹性的迹象,特别是在风险投资方面。

2021年,欧洲看到了 风险资本投资大幅增加同比增长143%,超过北美和亚洲。这一激增是由全球风险投资社区的主要兴趣和后期融资的增加推动的。金融科技和SaaS等领域的欧洲初创公司显著受益于增加的投资。

尽管有这些积极的趋势,但与美国和亚洲相比,欧洲科技行业的整体全球影响力仍然相对有限。T美国有 五家估值超过1万亿美元的科技公司而中国最大的两家公司的价值加起来超过了所有欧洲上市科技公司的价值总和。

这家欧洲最大的上市科技公司当时的估值为1630亿美元,在美国甚至无法进入前十名。

关键是,当欧盟从未能够与美国竞争时,旁观者很容易批评人工智能监管阻碍了欧盟的科技产业。不过,在很多方面,这是一个毫无意义的比较,因为没有人能在GDP方面与美国竞争。GDP也不是我们在将人工智能法案视为“欧盟竞争力的终结”时应该关注的唯一指标。

《世界报》的一篇文章强调了欧盟人均GDP的贫乏,法国、德国和意大利等欧盟国家只能与美国一些较贫穷的州相提并论。报告说:“意大利排在密西西比州之前,密西西比州是50个州中最贫穷的,而法国则排在爱达荷州和阿肯色州之间,分别排在第48位和第49位。德国不会保全面子:它位于俄克拉何马州和缅因州之间(第38位和第39位)。

然而,人均GDP当然不是一切。尤其是在美国,预期寿命是一个有争议的话题,因为统计数据通常显示,与其他发达国家相比,人们的寿命大幅

最后,如果你做一个经济比较,欧盟永远不会与美国竞争,但经济表现和人口福祉之间的联系是非线性的。

建议人工智能法案将削弱人工智能行业的竞争力,从而恶化人们的生活,但它并没有公平地关注它的其他影响。

例如,该法案将有关版权的重要规则提上桌面,有望遏制人工智能公司对人们知识产权的轻率使用。它还阻止了人工智能面部识别、社交评分和行为分析的某些使用。

竞争力的侵蚀可能比监管的好处更直接地有形,监管的好处目前仍然是假设的和不确定的。

可以说,人工智能法案以牺牲经济增长为代价为人民福祉带来的潜在好处是一项精明的交易。

一种平衡行为

尽管受到批评,但欧盟经常制定监管标准,如《通用数据保护条例》(GDPR)。

虽然GDPR一直被批评为更青睐成熟的科技公司而不是初创公司,并且没有直接推动欧盟的科技部门,但它已经成为事实上的数据保护国际标准,影响全球监管实践。

虽然欧盟可能不是人工智能的理想监管机构,但它目前是该领域最积极和系统的监管机构。

在美国,联邦人工智能监管是有限的,拜登政府更多地关注指导,而不是具有约束力的法律。因此,科技公司往往发现欧盟的做法更可预测,尽管其官僚主义。

欧盟的努力可能会为其他国家政府制定人工智能法规提供参考。

凭借人工智能的变革潜力,系统的规则至关重要尽管这并不意味着要征服创新和开源开发, 而欧盟首先试图处理这个微妙而棘手的任务。

这是一项勇敢的努力,谁知道呢,它可能会保护欧盟公民免受人工智能尚未到来的最坏影响。或者,它可能会看到欧盟牺牲其人工智能产业,而几乎没有结果。现在,这是一个意见的问题。

© 版权声明

欧盟人工智能法案通过关键投票并进入最后阶段谈判

AI最新政策12个月前发布 yundic
0 0 0

周三,欧盟在实施《人工智能法案》方面取得了重大进展,该法案是世界上第一部全面的人工智能立法。

欧洲议会批准了该法案的法律草案,该法案通过将用途分类为不同的风险类别,采取分层的方法来监管人工智能。

等级包括被禁止的危害人民安全和人权的“不可接受的”风险类别,以及涉及关键基础设施、选举、就业和其他潜在危害领域的“高风险”类别。

其次是”有限风险”和”最低风险”类别。

欧盟人工智能法案通过关键投票并进入最后阶段谈判

欧盟人工智能法案风险级别:来源:欧盟。

星期三的投票确认了对拟议法律的几项修改,并获得499票赞成,28票反对,93票缺席。

修正案是什么?

首先,欧盟扩大了被禁止的”不可接受”风险人工智能的清单,现在包括:

  • AI表示社交评分,根据个人的社会行为或个人特征进行排名。
  • 公共场所的实时远程生物识别系统。
  • 远程生物识别系统,但执法部门追查严重犯罪且仅经司法授权的情况除外。
  • 使用诸如性别、种族、民族、公民身份、宗教和政治取向等敏感特征的生物识别分类系统。
  • 预测警务系统依赖于侧写、位置或过去的犯罪行为。
  • 情绪识别系统部署在执法、边境管理、工作场所和教育机构。
  • 从互联网或闭路电视录像中无针对性地收集面部图像,用于创建面部识别数据库。

第二层“高风险”人工智能应用现在包括可能影响大型社交媒体平台使用的选举和推荐算法的系统。

至于像ChatGPT这样的生成性人工智能,开发人员需要积极评估并降低健康、安全、基本权利、环境、民主和法治等方面的风险。他们还需要在欧盟数据库中注册他们的模型,以便在欧盟市场上运营。

此外,人工智能公司必须加强防止生成非法内容的保护措施,并提供受版权保护的培训数据的详细摘要。该法的其他修改包括对中小企业和开放源码研究活动的豁免。

不遵守规定可能导致公司被迫删除申请,并处以高达其收入7%的罚款。欧盟官员Dragos Tudorache说,“那里有很多锋利的牙齿。对违反GDPR的罚款——包括对Meta的12亿欧元罚款和对亚马逊的7.46亿欧元罚款——表明欧盟可以执行此类行动。

欧洲议会主席罗伯塔·梅索拉(Roberta Metsola)将其描述为“毫无疑问将为未来几年制定全球标准的立法”,并补充说人工智能正在进入“一个新的审查时代”。

投票结束后,欧盟官员 白兰度·贝尼菲说“今天所有的目光都在注视着我们。虽然大型科技公司正在为自己的发明敲响警钟,但欧洲已经向前迈进,并提出了具体应对人工智能开始构成的风险的措施。我们希望利用人工智能在创造力和生产力方面的积极潜力,但我们也将在与安理会谈判期间努力保护我们的地位,并应对我们的民主和自由面临的危险。

在周三的投票之后,该法案进入了最后阶段,包括与欧洲议会、欧盟委员会和欧盟理事会的谈判。

该法案预计将于2026年生效。

© 版权声明

相关文章

暂无评论

暂无评论...