一群顶尖科学家发起了一项自愿倡议，概述了一套人工智能蛋白质设计的价值观、原则和承诺。
这封信讨论了人工智能工具的潜在滥用，这些工具能够以前所未有的速度和效率设计新蛋白质。
虽然人工智能在应对从大流行到可持续能源解决方案等紧迫的全球挑战方面有着巨大的前景，但它也提出了关于恶意使用的可能性的问题，例如创造新的生物武器。
而DeepMind的AlphaFold系统设计的蛋白质， 后来，研究人员 华盛顿大学医学院的研究表明，这些蛋白质对预期靶点具有高亲和力和特异性，但总有可能以意想不到的方式与体内的其他分子相互作用。
这可能导致不良副作用，甚至导致新疾病的发展。
另一个风险是可能滥用或恶意使用这项技术。正如人工智能设计的蛋白质可以用于创建高度靶向的治疗方法一样，它们也可以被设计来造成伤害。
例如，恶意行为者可能设计一种针对特定种族群体或利用特定基因脆弱性的蛋白质。
正如华盛顿大学的计算生物科学家大卫·贝克（David Baker）所指出的那样，“问题是：蛋白质的设计应该如何调节，如果有任何危险的话，那么这些危险是什么？”
100多个签署者认为，”当前人工智能技术的好处， 蛋白质设计 但认识到，随着技术的进步，需要采取积极主动的风险管理方法。
生物学的人工智能有可能帮助解决我们社会面临的一些最重要的问题。科学开放将是我们这个领域取得进步的关键。作为从事这项工作的科学家，在世界各地有90多个签署国，我们正在推进一个框架…Pic.twitter.com/4m81j87Vo9
-亚历克斯·里夫斯(@alexrives)2024年3月8日
这封信指出，“鉴于该领域的预期进展，可能需要一种新的积极主动的风险管理方法，以降低开发人工智能技术的潜力，这些技术可能会被滥用，无论是有意还是无意，造成伤害。”
签署
蛋白质设计安全的一个好主意（人工智能或非人工智能）：调节和控制蛋白质合成机器和固件，而不是人工智能研究本身。
这是我在英国人工智能安全峰会上推广的一个想法。Https://t.co/skcUUcgG5a– Yann LeCun（@ ylecun）2024年3月8日
的一部分 主动权，研究人员阐明了一套价值观和原则，以指导蛋白质设计中人工智能技术的负责任发展。
其中包括“安全、保障、公平、国际合作、开放、责任和为社会利益而进行研究”。签署国还自愿同意了一套以这些价值观和原则为依据的具体、可采取行动的承诺。
该计划的一个关键方面是改进DNA合成的筛选，这是将人工智能设计的蛋白质转化为物理分子的关键步骤。
科学家们承诺“只有从供应商那里获得DNA合成服务，这些供应商才能证明遵守行业标准的生物安全筛选做法，这些做法寻求在危险生物分子可以制造之前检测到它们。”
人工智能在医学和生物技术方面的进步令人难以置信，导致了新的抗生素和抗衰老药物的出现。
为了推动这些发现，签署方承诺“与来自世界各地的利益相关者合作”，并“避免可能导致整体伤害或导致滥用我们的技术的研究”。
