亚马逊要求作者公开人工智能内容

AI伦理与社会9个月前发布 yundic
521 0 0

亚马逊宣布了一项政策转变,要求作者披露人工智能在为其平台上销售的电子书生成材料中的使用情况。

在此之前,来自作家协会和类似组织的持续压力,表达了对人工智能生成内容日益增多的担忧。

人工智能生成的内容吸收了真正作者的收入,同时降低了已发布内容的整体质量。

亚马逊在直接出版指南中更新的术语是:“当您通过KDP发布新书或编辑并重新发布现有图书时,我们要求您通知我们人工智能生成的内容(文本、图像或翻译)。人工智能生成的图像包括封面和内部图像以及艺术品。

作家协会称赞这项新政策是“受欢迎的第一步”。

他们网站上的一份声明写道:“我们感谢亚马逊团队考虑了我们的关切,并采取了这一重要步骤,以确保人工智能生成的内容的透明度和问责制。”还指出,亚马逊将“继续努力,促进其他主要平台和出版商的类似透明度。”

通过要求作者披露人工智能生成的内容,亚马逊旨在让消费者获得做出更明智的决策的知识。

然而,这个自愿系统并不是特别强大,亚马逊几乎没有办法客观地检测人工智能生成的内容,因为人工智能检测器主要在GPT—4和其他复杂的大型语言模型(LLM)时代失效。

研究表明,人工智能检测器在检测人工智能生成的作品方面都很差,而且容易错误地标记真实内容。

对质量和原创性的影响

导致亚马逊新政策的主要担忧之一是人工智能生成内容的质量和原创性问题。

随着人工智能模型变得越来越先进,人们越来越担心这些自动化系统可能会充斥着衍生作品,可能会削弱人类创造力的独特性。

此外,人工智能生成的自助和非小说类书籍可能会传播错误或危险的信息。例如,亚马逊最近 我拿出一本蘑菇觅食书 包含危险甚至致命的建议。

亚马逊的决定还触及了人工智能时代越来越有争议的知识产权问题。

人工智能算法通常在现有的可能受版权保护的作品上进行训练。

作家协会此前组织了一封公开信,得到了詹姆斯·帕特森和玛格丽特·阿特伍德等知名作家的支持,敦促科技公司不要未经许可使用受版权保护的材料。

亚马逊的政策得到了积极的反应,但值得注意的是,亚马逊尚未公开识别出包含人工智能生成材料的书籍。

亚马逊这一决定的最终影响将取决于他们在识别和删除人工智能生成的书籍方面走了多远,特别是在内容质量极低、非原创或包含事实错误、有风险或危险的建议的情况下。

© 版权声明

相关文章

暂无评论

暂无评论...