OpenAI正在研发一款工具，旨在识别ChatGPT是否被用于撰写学术论文或研究报告，但由于内部的争议以及对用户反馈的顾虑，该工具尚未正式发布。《华尔街日报》报道称，这款工具能够以99.9%的准确率检测出由ChatGPT生成的人工智能文本。
令人意外的是，报告指出OpenAI的反作弊工具已经准备了一年之久，但由于内部讨论的延误，发布进程被推迟。该公司在保持透明度与维护用户之间面临两难局面。OpenAI甚至对用户进行了调查，发现近三分之一的ChatGPT忠实用户对这项技术表示反对。另一个引发关注的问题是，该工具可能会对非英语母语者产生不公平的影响。尽管技术前景广阔，该公司仍在权衡潜在风险并探索其他方案。一些员工认为，这项技术的优势超过了相关的担忧。
这个工具的工作原理是什么?
反作弊工具采用了一种水印技术，巧妙地调整文本生成过程中的令牌选择。这些调整形成了一种隐形模式，OpenAI的技术能够检测到，并对文档是否由ChatGPT撰写进行概率评分。据报道，当生成足够的新文本时，水印的有效性可达到99.9%。
有观点担心，水印可能通过翻译或添加、删除表情符号等方式轻易被去除。此外，确定谁有权使用该检测工具也是一大挑战。限制访问可能会降低其有效性，而过于广泛的访问则可能危及水印技术的安全性。
教师和教授们迫切希望拥有工具来打击教育领域中对人工智能的滥用。根据报告，一项调查显示，59%的初中和高中教师认为学生已经在作业中使用了人工智能。尽管需求迫切，OpenAI对反作弊工具可能对用户体验和公平性产生的影响持谨慎态度。其他公司如谷歌(Google)也在开发水印工具，例如谷歌的SynthID，目前处于测试阶段。OpenAI优先考虑音频和视觉水印而非文本水印，因为它们的影响尤为显著，尤其是在选举年。OpenAI面临内部辩论，并进行了调查以评估公众对该工具的看法。尽管一些数据显示公众支持，但仍有人担心虚假指控及其对ChatGPT表现的潜在影响。OpenAI继续探索争议较小的替代方案，并努力与公众舆论及潜在的人工智能透明度新法律保持一致。
本文来自作者[访客]投稿，不代表隼唯资讯立场，如若转载，请注明出处：https://wak.ceqweh.cn/wiki/202507-1005.html
评论列表（4条）
我是隼唯资讯的签约作者“访客”！
希望本篇文章《OpenAI推出了一款工具，能够以超过99.9%的准确率识别ChatGPT生成的文本》能对你有所帮助！
本站[隼唯资讯]内容主要涵盖：国足,欧洲杯,世界杯,篮球,欧冠,亚冠,英超,足球,综合体育
本文概览： OpenAI正在研发一款工具，旨在识别ChatGPT是否被用于撰写学术论文或研究报告，但由于内部的争议以及对用户反馈的顾虑，该工具尚未正式发布。《华尔...