金融稳定监督委员会(FSOC)是一个监督美国金融体系稳定性的机构,首次将人工智能列为一个重大的经济风险因素。
在最近的一次理事会会议上,担任FSOC主席的财政部长珍妮特·耶伦(Janet Yellen)谈到了AI提出的担忧。FSOC的年度报告将人工智能列为金融市场的14个潜在风险之一。
她说:“支持这一领域负责任的创新可以让金融系统获得提高效率等好处,但也有一些现有的风险管理原则和规则应该适用。
耶伦认为人工智能是对金融稳定的“新兴威胁”,但认为“现有法规可以用来遏制该技术的潜在市场风险。
提到的风险包括人工智能的“黑匣子”问题,指的是人工智能模型如何做出决策缺乏清晰度。我们无法“看到”封闭的人工智能算法的内部——只有输入和输出对包括金融机构在内的外部观察者可见,除非他们开发自己的人工智能系统或与公司达成协议以确保透明度。
这影响了关键财务决策中人工智能驱动流程的可靠性和公平性。如果你看不到人工智能决策的内在机制,那么诊断错误的结果几乎是不可能的。
FSOC提到的其他风险包括人工智能对就业的影响,许多研究和调查预测会有一定程度的流离失所。
监管机构和行业领导者面临双重挑战,既要确保金融领域的人工智能系统是透明、公平和道德的,又要解决人工智能采用对劳动力的影响。
美国证券交易委员会主席、FSOC成员Gary Gensler向 金融时报他说:“如果监管机构不迅速干预以驯服人工智能的风险,这项技术将在十年内引发金融危机是‘几乎不可避免的’。”
一位官员详细阐述了人工智能的作用,他说:“近年来,人工智能在金融服务中的使用有所增加,这要归功于更先进的算法、增加的数据量、数据存储和处理能力的改善以及许多方面的成本降低。
这位官员承认人工智能在“提高效率和创新”方面的潜力,但也警告说它带来的“某些风险”。