Lasso Security在HuggingFace和GitHub上发现了1681个暴露的API令牌硬编码到平台上存储的代码后，暴露了安全漏洞。
HuggingFace和GitHub是两个最受欢迎的存储库，开发人员可以在其中提供对其AI模型和代码的访问。将这些文件视为云中的文件夹，由拥有它们的组织管理。
HuggingFace和GitHub让用户可以通过API轻松地与数十万个AI模型和数据集进行交互。它还允许拥有模型和数据集的组织使用API访问来读取、创建、修改和删除存储库或文件。
与您的API令牌关联的权限决定了您拥有的访问级别。Lasso发现，通过一点挖掘，他们能够在存储在平台存储库中的代码中找到许多令牌。
在他们找到的1681个有效令牌中，655个用户的令牌拥有写权限，其中77个拥有完全帐户权限。
这有什么大不了的？
把API令牌想象成打开前门的钥匙。把钥匙放在门垫下面可能很方便，但如果有人发现了钥匙，他们就可以进入你的房子。
当开发人员编写一段需要与他们的AI模型或数据集交互的代码时，他们有时会变得有点懒。他们可以将令牌硬编码到他们的代码中，而不是使用更安全的方式来管理它们。
硬编码为代码的API令牌。来源：Lasso Security
Lasso发现的一些令牌给了他们对Meta的Lama 2、BigScience Workshop和EleutherAI的完全读写权限。这些组织都有被下载数百万次的人工智能模型。
如果Lasso是坏人，那么他们可能已经修改了暴露的存储库中的模型或数据集。想象一下，如果有人将一些偷偷摸摸的代码添加到Meta的存储库中，然后让数百万人下载它。
当Meta、谷歌、微软和其他公司听说被曝光的API令牌时，他们迅速将其撤销。
模型盗窃、训练数据中毒以及将第三方数据集和预训练模型相结合，都是人工智能公司面临的巨大风险。开发人员随意地在代码中暴露API令牌只会让不良行为者更容易利用这些令牌。
你一定会怀疑拉索的工程师是否是第一个发现这些漏洞的人。
如果网络犯罪分子发现了这些代币，他们肯定会在打开前门时保持非常安静。
