美国大学不鼓励使用Turnitin;S人工智能检测功能

AI伦理与社会8个月前发布 yundic
276 0 0

包括范德比尔特、密歇根州立大学、西北大学和德克萨斯大学奥斯汀分校在内的几所大学正在避免使用Turnitin,该技术在学生提交的作品中检测人工智能生成的内容。

以抄袭检测工具闻名的Turnitin在4月份推出了一项识别机器编写内容的功能。

然而,目前的人工智能模型,如GPT-4,经常逃避检测,真正的人类编写的内容经常被错误地标记为抄袭。

后者更令高校担忧,可能导致诬告,甚至法律后果。

此外,研究表明,那些将英语作为第二语言或不是母语的人更有可能将他们的作品标记为人工智能生成。

当激活时,人工智能检测软件会评估文档,分解文本,并根据内容是人为还是人工生成来分配分数。

Turnitin人工智能检测的准确性受到质疑。范德比尔特大学(Vanderbilt University)的教学技术顾问迈克尔·科利(Michael Coley)表示:“Turnitin如何检测人工智能写作,以及这是否可能是一个更大的问题。到目前为止,Turnitin没有给出关于它如何确定一篇文章是否是人工智能生成的详细信息。他们说的最多的是,该工具寻找人工智能写作中常见的模式,但他们没有解释或定义这些模式是什么。

范德比尔特大学强调,即使像Turnitin声称的那样,假阳性率低于1%,每年也可能导致750篇论文被错误标记,因为他们在2022年使用Turnitin处理了75,000篇论文。

科利进一步表达了对数据隐私的担忧,他说:“获取学生数据并将其输入由隐私和数据使用政策不明确的外部公司管理的探测器,确实存在隐私问题。人工智能检测具有挑战性,随着人工智能工具的发展,其复杂性只会增加。我们并不认为人工智能检测软件是一个有效的工具。

Turnitin的首席产品官Annie Rehitelli强调,他们的人工智能标记工具不应该被用来自动惩罚学生。

她说:“在Turnitin,我们的指导是,没有什么可以替代理解学生的写作风格和背景。我们的技术并不是要取代教育者的判断力。关于人工智能写作存在的报告旨在促进与学生的讨论,而不是得出不当行为的结论。

未来几代的人工智能模型只会变得更加复杂,能够更好地避开人工智能探测器,而人工智能探测器的局限性已经暴露出来。

人工智能在教育中的作用肯定会受到进一步的考验。

© 版权声明

相关文章

暂无评论

暂无评论...