IT之家2月1日消息,人工智能研究初创公司OpenAI周二推出了一个工具,旨在弄清文本是人类还是计算机写的。
OpenAI是ChatGPT背后的公司,ChatGPT是一个聊天机器人,可以根据提示生成像是人类写的文字,在两个月前发布后迅速走红。上周微软宣布对OpenAI进行数十亿美元的投资,并表示将把这家初创公司的人工智能模型纳入其面向消费者和企业的产品。
自从ChatGPT在11月首次亮相以来,包括纽约市在内的一些美国最大的学区已经禁止了这种人工智能聊天机器人,因为它们担心学生会利用文本生成器作弊或剽窃。
OpenAI的首席执行官SamAltman说,过去在计算器等技术出现后,教育已经发生了变化,但他也表示,该公司可能有办法帮助教师发现人工智能编写的文本。
OpenAI的这个新工具并不完美,该公司称其仍然在研发优化中,使用过程中可能会出错。“在我们对英语文本的‘挑战集’的评估中,我们的分类器正确地将26%的人工智能写的文本(真阳性)识别为‘可能是人工智能写的’,而将人类写的文本错误地标记为人工智能写的占9%(假阳性),”OpenAI员工写道。
新工具在分析包含少于个字符的文章方面并不可靠,而且OpenAI不建议将其用于英语以外的语言。此外,来自人工智能的文本可以稍作更新,就会使分类器不能正确判断它不是人类的作品。
OpenAI表示,它正在与教育工作者接触,讨论ChatGPT的能力和局限性,并将继续致力于检测AI生成的文本。
IT之家了解到,早在年,OpenAI就明确表示,识别人工智能合成的文本不是一件容易的事。OpenAI员工称:“我们在检测人工智能生成的文本方面的工作将继续进行,我们希望在未来分享改进的方法。”
转载请注明:http://www.0431gb208.com/sjslczl/5545.html