YouTube发布一揽子措施打击人工智能滥用

YouTube公布了一系列措施和指导方针，以打击与人工智能相关的滥用，特别是针对人工智能生成的深度假冒音乐。

这一决定是在对人工智能生成的音乐和深度虚假内容采取行动的压力越来越大的情况下做出的，例如《心在我的袖子上》等歌曲，未经他们的许可，使用人工智能生成的类似德雷克和The Weeknd的人声。

环球音乐集团批评这首歌是“用人工智能创作的侵权内容”。

经过一番争论后，格莱美最近宣布，这样的作品不会被考虑获奖.

youtube是 更新隐私投诉程序 允许对深度造假的投诉，规定并非所有此类内容都将被删除，模仿和讽刺等因素在其决策过程中发挥作用。

此外，创作者现在必须披露他们何时使用操纵或合成内容，包括人工智能生成的材料。

对于讨论选举和公共卫生危机等敏感话题的内容，这一点尤其强调。YouTube还提到，不遵守这些准则可能导致内容删除或暂停广告付款。

此外，一个标识人工智能生成内容的标签将被添加到视频描述中，敏感主题的标签将更加突出。

该公司表示，人工智能生成的违反现有内容准则的材料，如合成制作的暴力视频，也将被删除。

以下是YouTube打击人工智能滥用的工具库的摘要：

1. 披露要求和内容标签创作者必须披露他们的内容是否包括真实的修改或合成材料，特别是在使用人工智能工具时。这对于讨论选举和公共卫生危机等敏感话题的内容至关重要。不遵守规定可能导致内容删除或其他处罚。
2. 观众信息：YouTube计划通过描述面板上的标签向观众介绍合成内容，对于敏感话题，则在视频播放器上更突出地显示。
3. 在高风险情况下删除内容：构成伤害风险的合成媒体，无论贴上什么标签，如果违反了社区指南，都将被删除。这包括描述旨在震惊或厌恶观众的现实暴力的内容。
4. 隐私请求流程：YouTube将允许请求删除人工智能生成或更改的模仿可识别个人的脸或声音的内容。决定将基于诸如恶搞或讽刺、个人的身份和个人的公众地位等因素。
5. 对音乐内容的特别规定：音乐合作伙伴可以要求删除模仿艺术家独特声音的人工智能生成的音乐。YouTube将评估这些案例中的新闻报道或评论相关性等因素。
6. AI在内容审核中的应用YouTube采用人工智能技术和人工审查的混合来执行社区指南。人工智能分类器帮助检测潜在的违规行为，而人工审核员确认政策违规行为。生成性人工智能在识别和解决新形式的虐待方面特别有用。
7. 构建人工智能工具的责任YouTube专注于开发具有内置保护措施的人工智能工具，以防止生成不适当的内容。他们还通过不断改进和专门的威胁检测小组，为不良行为者可能规避的行为。

这遵循了一个更广泛的行业趋势，即暴露与人工智能相关的内容，这些内容并不旨在为平台做出真正和值得信赖的贡献。

像Meta这样的公司也推出了 对政治广告商的要求披露人工智能在广告中的使用。错误的信息。

这是公共和私人压力的混合导致的，人工智能公司寻求表现出履行各种自愿框架中做出的承诺的意愿。