BBC记者的一项详细调查发现了一个令人担忧的趋势，即人工智能生成的YouTube视频充满了虚假的“科学”信息，旨在误导年轻观众。
BBC团队发现“有超过50个频道用20多种语言传播伪装成STEM[科学、技术、工程、数学]内容的虚假信息。”
这些频道专注于伪科学、虚假信息和阴谋论，从声称发电金字塔到否认人为造成的气候变化，以及关于外星人的讨论。
YouTube的算法被发现是向年轻观众推荐这些视频。
人工智能简化了使用自动化方法创建YouTube视频的过程，导致人们担心平台上的内容质量正在下降。
人工智能在传播虚假信息中的作用
的 BBC的分析 该公司透露，这些误导性视频中的大多数都使用了生成性人工智能程序，如ChatGPT和MidJourney，来生成文本、图像和叙述。
YouTuber和科学教育家Kyle Hill在这个问题上有第一手经验，他说：“创作者似乎窃取并操纵了准确的内容，然后重新发布。
他进一步评论说，“这些渠道似乎已经确定了正确的事情，以最少的努力最大限度地增加视图。
BBC团队进行了一项实验，以了解儿童接触这些误导性内容的程度。
他们在YouTube上建立了儿童账号，发现这些人工智能生成的“烂科学”视频确实被推荐给了这些账号。
孩子们的反应
调查还通过向两组10—12岁的青少年展示这些视频来衡量人们对这些视频的反应。
一个视频集中在不明飞行物和外星人阴谋，而另一个虚假声称吉萨金字塔被用于发电。
一个孩子说：“我喜欢看它，”“一开始，我不确定外星人是否存在，但现在我认为他们确实存在。
一些人发现了虚假内容；一个孩子说：“我觉得很有趣，他们甚至没有使用人类的声音，我以为这不是人类的声音。”
最近几周，AI与儿童的互动受到了激烈的辩论，50名美国州检察官 联合起来警告国会本月早些时候，这项技术对年轻一代的危险。
8月， 世界经济论坛警告说 解决人工智能在儿童生活中的作用的政策是严重缺乏的。
YouTube的回应
YouTube指出，它向13岁以下的人推荐YouTube Kids，声称它对可以播放的视频质量有更高的门槛。
然而，他们没有就这些误导性视频产生的广告收入问题发表评论。
英国小学教师克莱尔·西利（Claire Seeley）表达了她对未来的担忧。
“我们对人工智能生成的内容如何真正影响儿童的理解力并不清楚。作为教师，我们正在努力追赶，试图抓住这个问题。“
牛津互联网研究所所长Vicki Nash教授提出了伦理问题：“YouTube和谷歌通过伪科
随着人工智能的不断发展，人工智能产生的虚假信息带来的挑战只会升级，需要科技公司、教育工作者和家长采取警惕行动。
虽然监管将增加对社交媒体平台的压力，要求其对人工智能生成的内容采取行动，但在一开始就发现此类内容是众所周知的困难时，这是一个艰巨的任务。
