2月1日动静，美国本地时候周二，AI研究草创公司OpenAI颁布发表推出一款新东西，可用于检测文本是出自人类之手仍是由AI生成。这款名为分类器的东西将标识表记标帜OpenAI产物（如ChatGPT）以及其他AI创作软件编写的内容。然而，它仍有很多局限性。是以，OpenAI建议将其用作确定文原本源的其他方式的弥补，而不是作为首要的决议计划东西。OpenAI员工简·亨德里克·基什内尔（Jan Hendrik Kirchner）、拉马·艾哈迈德（Lama Ahmad）、斯科特·亚伦森（Scott Aaronson）以及简·莱克（Jan Leike）在一篇博客文章中写道：“在我们对英语文本的‘挑战集’进行评估时，我们的分类器准确地将26%的AI生成文本（真阳性）识别为‘可能是AI所写’，而将9%人类书写的文本错误地标识表记标帜为AI所写（假阳性）。”文章中继续称：“OpenAI在一篇博客文章中暗示：“固然不成能完全精确地检测出所有AI生成的文本，但我们相信，好的分类器仍可以供给帮忙。例如帮忙识别利用AI东西进行学术欺诈，或将AI聊天机械人定位为人类。”OpenAI员工认可，其新东西可能会犯错，今朝正在改良中，他们但愿家长和教员对该分类器的表示供给反馈。OpenAI首席执行官萨姆·阿尔特曼（Sam Altman）暗示，在计较器等手艺呈现后，教育范畴发生了庞大转变，但他也暗示，该公司可能有方式帮忙教师识别AI生成的文本。自从客岁11月份OpenAI推出ChatGPT后，这款AI聊天机械人就激发了公家存眷。学生们很称心识到，该东西可以帮忙生成论文和总结材料，尽管偶然会插入较着的错误。很快就有黉舍限制了ChatGPT的利用，因为他们担忧学生可能操纵其作弊。这款新东西在阐发少于1000个字符的输入方面不是很强，OpenAI不建议在英语以外的说话上利用它。早在2019年，OpenAI就明白暗示，识别AI生成文本并不轻易，但其筹算继续霸占这一挑战。基什内尔、艾哈迈德、亚伦森和莱克写道：“我们在检测AI生成文本方面的工作将继续下去，我们但愿在将来分享改良的方式。”这并不是AI研究人员初次试图识别出AI生成的文本。本月早些时辰，普林斯顿年夜学的学生爱德华·田（Edward Tian）颁布发表推出了名为GPTZero的东西，并在该东西的网站上指出，它是专为教育工作者设计的。OpenAI也在2019年发布了一个检测器，除了一个年夜型说话模子LLM之外，它没有ChatGPT的焦点那么复杂。员工们写道，新版本在处置AI生成文本方面表示更好。上周，微软颁布发表向OpenAI投资数十亿美元，并暗示将把这家草创公司的AI模子整合到其面向消费者和企业的产物中。（小小）