由Jürgen Bajorath教授领导的波恩大学科学家们发现了参与制药研究的“黑匣子”人工智能的内部工作。
他们的 学习最近发表在《自然机器智能》杂志上的文章显示，药物发现中的人工智能模型主要依赖于召回现有数据，而不是学习新的化学相互作用。 这挑战了之前关于人工智能如何在这一领域做出预测的假设。
研究人员使用机器学习来定位与靶蛋白有效相互作用的分子，这通常涉及预测哪些分子将与靶蛋白强烈结合，然后对这些预测进行实验验证。
这种形式的人工智能辅助药物发现在2023年取得了重大突破，包括 MIT开发的模型 人工智能发现的药物显示， 延缓衰老的承诺人工智能生成的蛋白质显示， 优异的粘结强度。
Bajorath和团队试图回答的问题是，其中一些模型是如何实现其结果的？
该研究团队专注于图形神经网络（GNN），这是一种广泛用于药物发现的机器学习应用程序。GNN是使用代表潜在药物相互作用的图来训练的。
然而，正如Bajorath教授指出的那样，“GNN如何实现它们的预测就像一个我们看不到的黑匣子。”
为了全面揭开这个过程的神秘面纱，团队分析了六种不同的GNN架构。研究作者、罗马Sapienza大学的博士生Andrea Mastropietro说：“GNN非常依赖于训练数据。
研究人员发现，GNN主要依靠训练数据中的化学相似性来做出预测，而不是学习化合物和蛋白质之间的特定相互作用。
这基本上意味着人工智能模型经常“记住”而不是“学习”新的交互。
人工智能中的“聪明汉斯效应”
研究人员将这种现象比作“聪明的汉斯效应”，即马似乎通过解释来自其管理者的微妙线索来执行算术，而不是真正理解数学。
同样，人工智能的预测更多的是回忆已知数据，而不是理解复杂的化学相互作用。
研究结果表明，GNN学习化学相互作用的能力被高估了，简单的方法可能同样有效。
然而，一些GNN表现出学习更多交互的潜力，表明改进的训练技术可以提高他们的性能。
Bajorath教授 该团队还在开发方法来澄清人工智能模型功能，以追求“可解释人工智能”，这是一个新兴领域，使人工智能的决策过程透明和可理解。
