研究人员发现,人们通常不擅长识别哪些面孔是真实的,哪些是人工智能生成的。超现实的人工智能人脸通常被认为是真实的,而不是真实的人脸。
这项由澳大利亚国立大学领导的研究包括一些实验,看看人们是否可以区分人类和人工智能生成的面孔,以及哪些特征导致了人们做出的选择。
之前的研究表明,参与者可以在大约50%的时间内识别出非白人AI面孔。在最近的一项研究中,一组124名成年人被展示了100张人工智能和100张真实白人面孔的混合物,并被要求识别它们是否真实。
人工智能生成的人脸在65.9%的时间被错误识别为人类,而人脸被判断为人类的时间只有51.1%。
该研究的合著者伊娃·克鲁姆胡伯博士说:“人工智能已经达到了惊人的现实主义水平,我们在这里发现,有时它甚至看起来比现实更真实–超现实主义–这样我们就很容易被骗,以为人工智能生成的脸是真实的。”
参与者还被问及他们对自己的评价有多确定。在邓宁—克鲁格效应的一个经典例子中,犯错误最多的参与者最有信心做出正确的判断。
该研究的合著者、澳大利亚国立大学博士生伊丽莎白·米勒说:“令人担忧的是,那些认为人工智能人脸是真实存在的人往往是最自信的,他们的判断是正确的。”
你在考试中表现如何?哪些是真的,哪些是人工智能生成的?我们会让你知道你是怎么降下来的。
最常被归类为人类或人工智能的人脸。资料来源:Sage期刊
研究人员得出结论,人工智能生成的人脸不仅与人类的人脸难以区分,而且它们的特征使它们在我们看来更加真实。他们将人工智能面孔的这种特征称为超现实主义。
研究人员使用StyleGAN2,一个生成对抗网络(GAN),来生成AI人脸。StyleGAN2是在一个大型的人脸数据集上训练的,其中大约69%是白人,31%是所有其他种族的总和。
研究人员得出的结论是,白人面孔的过度表现使模型能够生成代表所有这些特征的平均值的面孔,使它们看起来比人类更像人类。
论文的结论是,训练数据集中的这种偏差引发了重要的问题。报告指出:“如果人工智能人脸对白人来说确实比其他群体更现实,那么它们的使用将混淆对种族的看法和对‘人类’的看法。”
如果人工智能模型的人脸概念是白人面部特征的不自然平均值,那么如果被要求这样做,它将如何区分不同种族的真人和人工智能假?
资深作者艾米·达维尔博士说:“如果白人AI面孔一直被认为更真实,这项技术可能会对有色人种产生严重影响,最终加强网上种族偏见。
哪些特征导致了错误?
人工智能人脸的某些特定特征一定会让我们觉得它比真正的人脸更人性化。在第二个实验中,610名参与者被要求对人工智能和人类面孔的14个属性进行评分,包括吸引力、眼神接触和表达力。
面部通常被分类为人类或人工智能,并与正确的分类一起。百分比表示作出这一分类的参与者比例。来源:Sage Journals
将这些数据与第一个实验的数据相结合,使研究人员能够确定是什么使人们更有可能识别出一张脸是人工智能生成的还是真实的。
他们发现,人工智能人脸的超现实主义可以归因于它们“比人类的人脸明显更平均(不那么明显),熟悉,更有吸引力,更不令人难忘”。
我们这么快就接受了AI面孔是真的,这一事实表明,拥有AI假冒检测工具是多么重要。
研究人员从人类感知的属性中获取了数据,以及在错误识别AI人脸时如何正确和错误地使用它们,并创建了一个机器学习模型来识别AI人脸。该模型能够以94%的准确率准确分类人脸类型。
我们不太可能每次在网上看到一张脸时都通过人工智能人脸检查器运行。面部生成器只会更好地击败假探测器。
Dawel博士总结了面对这种情况我们最好的选择:“教育人们了解人工智能面孔的真实感可以帮助公众适当地怀疑他们在网上看到的图像。
如果我们提醒自己,我们真的不擅长识别假货,也许我们就不太可能被它们愚弄了。