OpenAI的这个新工具可以检测AI编写的文本
•
2023-03-09 15:12:02
摘要 在推出最受欢迎的人工智能聊天机器人ChatGPT 之后，微软支持的人工智能研究和部署公司 OpenAI 现在推出了一款名为人工智能文本分类器的
在推出最受欢迎的人工智能聊天机器人ChatGPT 之后，微软支持的人工智能研究和部署公司 OpenAI 现在推出了一款名为“人工智能文本分类器”的新工具;可以检测人工智能生成的内容。
AI 文本分类器是一个经过微调的 GPT 模型，可以预测一段文本是否由 AI 从各种来源(例如 ChatGPT)生成。该公司在新工具的页面上说：“这个分类器可以作为一种工具来引发关于 AI 素养的讨论。”
据该公司称，AI 文本分类器的可靠性通常会随着输入文本长度的增加而提高。与之前发布的分类器相比，这个新工具对来自更新的 AI 系统的文本的可靠性要高得多。
此外，分类器有许多重要的限制。它不应用作主要的决策工具，而应作为其他确定文本来源的方法的补充。分类器在短文本(少于 1,000 个字符)上非常不可靠。甚至更长的文本有时会被分类器错误地标记。
有时，人类编写的文本会被我们的分类器错误但自信地标记为 AI 编写的。“我们建议只对英文文本使用分类器。它在其他语言中的表现要差得多，而且它在代码上不可靠，”该网站写道。
无法可靠地识别非常可预测的文本。例如，无法预测前 1000 个素数的列表是由人工智能还是人类编写的，因为正确答案总是相同的。可以编辑 AI 编写的文本以避开分类器。
“像我们这样的分类器可以根据成功的攻击进行更新和再训练，但目前尚不清楚检测是否具有长期优势。众所周知，基于神经网络的分类器在其训练数据之外的校准很差。对于与我们训练集中的文本非常不同的输入，分类器有时非常有信心做出错误的预测，”该公司表示。
版权声明：本文由用户上传，如有侵权请联系删除！
标签：