随着算法和机器学习系统开始在政府和公共部门激增，我们是否会走向一种通过算法进行治理的形式–或者是一种“算法统治”？
Algogracy—一种与技术官僚和网络官僚相关的算法驱动治理形式—系统地将人工智能、区块链和算法应用到法律和社会的各个方面。
“算法统治”一词在2013年左右出现在学术讨论中，但算法治理的例子可以追溯到60年代和70年代。
虽然算法处理和机器学习或人工智能并不相同，但它们确实代表了一系列技术。
算法治理的核心主题——放弃人类控制，交给计算机化决策系统——已经从更简单的数学模拟发展到今天先进的自我学习模型。
这是我们应该欢迎还是应该警惕的？
Algocracy起源
非政府治理诞生于一个快速数字化的时代——20世纪60年代。
以下是一个简短的时间轴，介绍了算法和人工智能集成决策在公共和政府项目中的作用：
- 1962：Alexander Kharkevich提出了一个用于莫斯科算法治理的计算机网络。
- 1971-1973年智利的Cybersyn项目试图管理国家经济。
- 1970年代早期的法律推理和税法解释系统的发展，如英国的LEGOL项目和美国的TAXMAN项目。
- 1993：出版《走向新社会主义》，讨论建立在现代计算机技术基础上的民主计划经济的潜力。
- 2000年代算法开始用于监控视频分析。
- 2006：A. Aneesh介绍了算法政治的概念，讨论了信息技术对公共决策的影响。
- 2013：Tim O‘Reilly创造了“算法监管”这个词，倡导在政府中使用大数据和算法。
- 2017年乌克兰司法部使用区块链进行实验性政府拍卖。
- 今天有许多机器学习系统在政府和公共部门部署的例子，其中一些被证明可以在最少的人为监督下做出高层次的、改变生活的决策。
最吸引人的项目之一是控制工程在智利，从1971年到1973年运行。尽管它的生命很短，但该项目仍然是一个例子，说明如何成功地用计算机系统模拟社会和人。
它背后的机制是迷人的，预示着对中央情报局支持的萨尔瓦多阿雷迪斯秋天和智利的进展到毁灭性的皮诺切特时代。
一个3D渲染什么Cybersyn控制室看起来像星际迷航一样的家具。它由英国和智利科学家共同设计。它被认为比它的时代提前了几年，如果不是智利的中情局支持的军事政变，它可能已经发展成我们今天所知的一种不同形式的互联网。资料来源：Rama，CC BY—SA。
Cybersyn项目的核心是四个主要组成部分：
- 经济模拟器该模块旨在模拟智利经济，使政府官员能够模拟各种经济决策的结果。
- 工厂性能软件：开发了定制软件，以监测和评估工厂绩效，重点关注生产水平和原材料供应等关键指标。
- 操作室(操作室)：这是Cybersyn的物理枢纽，经济数据在这里收集、处理和展示。Opsroom使决策者能够迅速吸收复杂的信息并做出明智的选择。
- 全国电传机网这些网络与一台大型计算机相连，形成了跨越国营企业的通信网络（称为“Cybernet”）。该网络促进了向中央政府实时传输经济数据。
Cybersyn项目在1972年的一次全国卡车司机罢工中展示了它的潜力，政府可以依靠实时数据来减轻罢工的影响。电传网络在危机中维持通讯和协调资源分配方面起着至关重要的作用。
然而，该项目在1973年9月11日军事政变后突然终止。Opsroom和更广泛的系统被拆除，Cybersyn仍然是一个技术先进并可能对社会负责的经济管理系统的未完成愿景。Cybersyn的政治备受争议，它是社会主义下创新的典范，因此它受到了尊敬。
还有几个其他早期算法管理的例子，包括20世纪70年代的LEGOL和TAXMAN项目，为税务机构基于规则的流程自动化奠定了基础。随后的几十年见证了这些技术的发展，监控应用在2000年代变得突出。
2006年，A. Aneesh在他的书中”虚拟迁移，“引入了权衡制度的概念，探讨了信息技术如何限制人类参与公共决策，使其有别于官僚制度和以市场为基础的制度。
然后，在2013年，O‘Reilly Media Inc.的创始人兼首席执行官蒂姆·奥赖利创造了“算法监管”这个词，阐明了利用大数据和算法的力量实现特定法律结果的治理愿景，呼吁向更高效、更负责任的治理范式转变。
最近，在2017年，乌克兰司法部进行了试验性试验， 基于区块链的政府拍卖 （又名。公共部门招标），展示了这些技术在提高政府交易透明度和打击腐败方面的潜力。
这将我们带到了生成人工智能的蓬勃发展时代和当今先进的前沿模型。
人工智能和算法的公共部门实验
在过去的几年里，公共部门和政府机构已经在算法决策、人工智能和机器学习方面进行了大量试验。
全面研究 斯坦福大学揭示了AI和ML工具在美国联邦部门的显著采用，到2020年将有45%的机构试验这些技术。
Palantir技术公司 是这一领域的主要商业供应商，为剩余应用做出贡献。
从具体机构来看，司法项目办公室以12个用例领先，其次是证券交易委员会（SEC），10个用例，美国宇航局（NASA），9个用例。其他著名的机构包括FDA，USGS，USPS，SSA，USPTO，BLS和美国海关和边境保护局。
有广泛的证据表明，这些系统中有一些存在偏见。美国的医疗算法被发现不太可能转介黑人患者接受额外护理，而像COMPAS这样的预测性警务工具被指责在预测再次犯罪风险(累犯率)和量刑方面存在种族偏见。
最近的一 《卫报》调查 英国公共部门的一项研究发现，在福利、移民和刑事司法等领域使用的算法与滥用和歧视案件有牵连。
值得注意的是，工作和养老金部（DWP）因一种据称导致错误福利暂停的算法而面临批评，而大都会警察局的面部识别工具显示，黑人面孔的错误率更高。
AI和算法的正义
算法政治的另一个分支是算法或人工智能影响的司法和执法。
除美国COMPAS系统外，在澳大利亚，“Split Up”软件帮助法官在离婚诉讼中确定资产分割，中国率先建立了互联网法院，虚拟AI法官协助基本诉讼任务。
荷兰政府的经验 系统风险指示(SYRI) 旨在侦查社会福利欺诈行为的algorithm由于其潜在的歧视性影响和缺乏透明度而面临法律挑战，导致法院作出了具有里程碑意义的裁决，反对其使用。
荷兰一家法院禁止人工智能风险分析。资料来源：安东·埃克。
巴西在圣保罗采用面部识别技术 Smart Sampa项目 以及其他形式的预测性警务，包括美国的几个项目，表明技术有可能影响人们基本自由的治理。
圣保罗的监控摄像头实施了面部识别驱动的治安制度。
Palantir的Gotham软件自2012年以来一直被新奥尔良警察局用于预测警务，以及更新的迭代已被宣布为失败对边缘化社区造成偏见，浪费警察资源。
此外，越来越多的法律机器人正在承担传统上由律师助理处理的任务，罗斯情报公司等技术帮助美国律师事务所进行法律研究。
最近有报道称，律师使用生成人工智能（包括ChatGPT）来协助案例研究—包括 备受瞩目的事件 一名律师就人工智能捏造的案件提出法律索赔
AI政客竞选公职
人工智能完全取代政客一直是许多猜测的主题，包括最近Joe Rogan和OpenAI首席执行官Sam Altman的播客。
Joe Rogan提出了这个话题，他说人工智能可以更客观地证明能够使人们的特定需求受益，因为它不受经济和政治影响。
Altman同意传统的政府决策往往基于腐败的动机，但他对过度信任人工智能在重要的社会决策中感到不安。
2018年，松田美仁竞选东京多摩市市长人工智能程序的人工代理，展示了一种新颖的政治候选人身份。尽管没有获胜，但这一举措突显了人工智能在政治中的潜力。
塞萨尔·伊达尔戈在2018年引入了扩大民主的概念，通过个人数字双胞胎提出立法。伊达尔戈说“我绝对相信，民主可以利用技术和新思想来更新或改进。
在2022年，“Lars领导人一个聊天机器人被提名参加丹麦议会选举，代表合成党参选。
与其前任不同的是，拉尔斯领导人领导一个政党，并参与关键的政治讨论，但不声称是客观的，这为虚拟政治家的概念增加了一个新的层面。
算法的好处和批评
演算法的好处通常属于“效率”的范畴。使用人工智能和算法来做出复杂的决策比依赖人类更快。
这在公共部门的复杂领域尤其有益，因为这些领域已经因拖延而紧张。
因此，尝试人工智能决策的诱惑是巨大的，这也是为什么法律、司法、经济和福利等资源挑战部门中有如此多值得注意的公共部门例子。
获得对这些工具的信任具有挑战性，因为政府不希望他们的专有模型暴露，因为这可能会让敏感数据面临威胁。因此，这些项目中的许多都是高度保密的，这增加了它们的风险。
历史学家、《Sapiens》和《Homo Deus》等畅销书的作者Yuval Noah Harari指出，民主和独裁政权之间持续的冲突可以被视为两个数据处理系统之间的战斗，人工智能和算法可能会将平衡转向集中和控制。
哈拉里强调，人工智能操纵语言和生成有说服力的内容的能力可能会损害民主。人们担心的不仅仅是人工智能产生有偏见或虚假的信息，而是它模仿人类对话并在未被发现的情况下影响公众舆论的能力。
Harari进一步描述了人工智能如何创造回声室，独裁政权可能比民主国家更有效地利用回声室。威权政府对数据的集中控制，对隐私或道德约束的关注较少，可以更积极地部署人工智能来监视和操纵公众舆论。
有一些方法可以弥补这一点。例如，人工智能初创公司Anthropic投入了相当多的研究宪法AI更具体地说，”集体宪法AI这将人们的观点输入到人工智能模型中，从普通人群中‘众包’自己的价值观。
这些技术可以民主地为人工智能治理提供信息，确保模型受公众意见的指导，而不仅仅是其创建者的意见。
算法政治舆论
关键的是，大多数人对人工智能的这些应用有什么看法？
这些声音最能反映出社会对完全或部分由算法或人工智能系统管理的真实感受。让我们不要忘记这些项目的公共资金通过税收。
2019年的民意调查， IE大学变革治理中心 在西班牙的调查显示，欧洲各国公众对允许人工智能做出重大国家决策的支持程度不同。荷兰的批准率最高，为43%，而葡萄牙的批准率最低，为19%。
研究人员发现，对政治领导人或安全提供者的幻想破灭会增加公众对被认为更可靠的人造代理人的倾向。
假以时日，人工智能模型或许能够充当对社会负责的政府行动的校准器，听取公众的意见，并将其灌输到人工智能模型中，以否定传统民主的一些不太可信的表现形式。
如果正确执行，这些技术甚至可以透明地让政府对人民的民主意愿负责。
然而，到目前为止，大多数高官统治的例子说明的是国家决策，而不是民主决策。
