人工智能研究初创公司 OpenAI 周二推出了一款工具,可以判断文本是由人写的还是电脑写的。
ChatGPT 创建者 OpenAI 推出了一种工具来检测 AI 生成的文本
ChatGPT 背后的公司 OpenAI 是一种可以生成类似人类文本的聊天机器人,它在两个月前发布后迅速走红。 微软上周宣布向 OpenAI 投资数十亿美元,并表示将把这家初创公司的人工智能模型整合到其消费者和商业产品中。
自从 ChatGPT 于 XNUMX 月首次亮相以来,包括纽约市在内的美国一些最大的学区已经禁止了 AI 聊天机器人,因为担心学生会使用文本生成器作弊或剽窃。
OpenAI 首席执行官 Sam Altman 表示,随着计算器和其他技术的出现,过去的教育发生了变化,但他也表示,该公司可能有办法帮助教师从 AI 中发现书面文本。
OpenAI 的新工具并不完美,该公司表示它仍在进行中,使用过程中可能会出现错误。 “在我们对我们的‘挑战集’英文文本的评估中,我们的分类器正确地将 26% 的 AI 编写的文本(真阳性)识别为‘可能由 AI 编写’,而 9% 的人类编写的文本文本被错误地标记为由 AI 编写(误报),”OpenAI 员工写道。
新工具在解析少于 1000 个字符的文章时不可靠,OpenAI 建议不要将其用于英语以外的语言。 还有,AI 文本可能会稍微更新到足以让分类器无法正确判断它不是人类的作品。
OpenAI 表示,它正在与教育工作者联系,讨论 ChatGPT 的功能和局限性,并将继续致力于检测人工智能生成的文本。
亚马逊有售
最后更新于 1 年 2024 月 5 日 15:XNUMX