记者 李乔宇
原标题:《国内首个AI生成内容检测工具——AIGC-X正式开始公测》
图片来源:由无界版图AI工具生成
3月1日,AIGC-X正式开始全网公测。据悉,这是由人民日报社主管、依托人民网建设的传播内容认知全国重点实验室,中国科学技术大学,合肥综合性国家科学中心人工智能研究院联合推出的国内首个AI生成内容检测工具。
据介绍,AIGC-X可快速区分机器生成文本与人工生成文本,目前对中文文本检测的准确率已超过90%。
传播内容认知全国重点实验室首席科学家张勇东表示,因具有对话咨询、文章写作、内容润色等广泛的应用场景,以ChatGPT为代表的AIGC技术迎来发展新阶段。随之而来的伦理规范、内容侵权、信息造假等风险挑战同样不容忽视,迫切需要推出针对性的检测产品,提升对内容生产新范式的监管治理技术能力。
他介绍道,通过采用算法融合与知识驱动的人工智能框架,使用深度建模来捕捉困惑度、突现频次等隐式特征,AIGC-X可对AI技术生成的假新闻、内容抄袭、垃圾邮件进行检测,在内容版权、网络钓鱼、虚假信息和学术造假检测等内容安全、内容风控方面有广阔的应用前景。未来,AIGC-X还会扩展为对人工智能生成文本、图像乃至视频的通用智能识别模型。
“AIGC迫切需要适当的引导和规范。”传播内容认知全国重点实验室研究员靳国庆特别强调,要重视防范AIGC在虚假信息、学术造假、网络钓鱼等灰色领域的滥用。“AIGC-X将推动AI风险管理、安全评测技术的发展,为建立安全可控的AIGC生态提供技术支撑。”
据介绍,在此次发布AIGC-X之前,传播内容认知全国重点实验室已推出基于人工智能开发的“智晓助”和“白泽”两个内容风控系统,并在百余家机构使用。专注于内容风控业务的人民网信息技术公司已基于AIGC-X开发了“捕获AIGC”产品,通过“人民审校”微信公众号对外发布。
工业和信息化部公布的数据显示,我国AI核心产业规模目前已超过4000亿元,企业数量接近4000家,带动相关产业规模超数万亿元,并将持续快速增加。行业专家预测,作为数字经济和实体经济深度融合的新模式,AIGC将在赋能产业创新发展方面大有作为。
张勇东表示,“AIGC-X不是一个静态的技术,而是随着AIGC的发展而发展的。”目前受限于时间和资源,AIGC-X对非常规问题和场景的支持还有待完善。例如,AIGC-X目前只支持中文内容的检测,对英文的支持有待提高;还需要进一步完善对图像、音视频等内容的检测能力,支持全媒体的内容检测,为AIGC的健康发展保驾护航。
文章标题:国内首个AI生成内容检测工具AIGC-X开始公测,目前对中文文本检测的准确率已超过90%
文章链接:https://www.996btc.com/3519.html
更新时间:2024年08月22日
1.本站大部分内容均收集于网络!若内容若侵犯到您的权益,请发送邮件至:service@996btc.com,我们将第一时间处理!
2.资源所需价格并非资源售卖价格,是收集、整理、编辑详情以及本站运营的适当补贴,并且本站不提供任何免费技术支持。
3.所有资源仅限于参考和学习,版权归原作者所有,更多请阅读尚链财经服务协议。