新华网推出AIGC-Safe平台：为AI时代保驾护航

随着数字化浪潮的澎湃兴起，人工智能（AI）技术正以前所未有的速度重塑世界。
随之而来的技术革命不仅带来前所未有的机遇，也伴随着难以驾驭的风险。
信息错误和虚假信息已成为最大的短期风险之一。
针对这些问题，新华网在AIGC背景下紧跟时代步伐，推出全域内容安全与模型安全综合服务平台——AIGC-Safe平台，旨在护航AI技术的健康发展。

一、全球背景下的AI安全与合规挑战

近年来，黑客利用人工智能生成威胁的时间被大幅缩短，攻击目标也从个人数字资产扩大至AI算力基础设施和大模型。
AI换脸诈骗、AI伪造图文传播谣言等现象严重侵犯公民合法权益，扰乱社会秩序。
面对严峻形势，全球范围内对AIGC进行合规性监管的共识日益增强。
我国在这一领域的行动更是走在世界前列。

二、新华网推出AIGC-Safe平台应对挑战

在此背景下，新华网打造出国内首个集内容安全与模型安全于一体的综合性服务平台——AIGC-Safe。
该平台以四大核心技术能力构筑起AI安全的坚固防线。

1. 模型层面：推出国内首个伪造检测大模型，并搭建AI攻防平台和数据生成基座以保障模型持续更新。
2. 数据层面：依托中国互联网联合辟谣平台的优势，积累了海量谣言大数据和不良信息特征库，针对伪造算法和合成数据进行储备与训练。
3. 算法层面：确保模型在各种环境和场景下都能高效精准部署应用。
4. 硬件层面：适配国产芯片，研发出保障信创安全的一体机产品。

三、AIGC-Safe平台的功能与应用场景

AIGC-Safe平台不仅具有强大的内容合规审核能力，能对字、词、标点、知识性差错及通用内容和AIGC内容进行全面检测，还拥有卓越的AIGC检测能力。
无论是AI生成的文本、视频还是多模态内容，平台都能迅速识别，可用于判断网络信息的真实性、检测学术本文是否造假等。
平台能快速识别并标记深度伪造的视频、图像、合成语音等的伪造痕迹，在多个安全场景中发挥重要作用。

四、平台的应用领域与前景展望

AIGC-Safe平台具有广泛的应用前景，可广泛应用于虚假情报检测、特定人物伪造检测、AI换脸、语音合成诈骗检测、开户换脸检测、新闻真实性检测、学术作弊检测、票证鉴伪、公共显示屏内容安全管控等诸多领域。
作为中央重点新闻网站和新型数智化文化企业，新华网一直致力于发展自身的人工智能技术创新应用，并期待以AIGC-Safe平台为基石，为AI时代提供全面的安全护航。

五、结语

面对AI技术革命带来的挑战与机遇，新华网紧跟时代步伐，推出AIGC-Safe全域内容安全与模型安全综合服务平台，以强大的技术实力和创新能力为AI技术的健康发展保驾护航。
展望未来，新华网将继续拓展场景、创新技术，为数字中国行稳致远提供坚实的护航。
这一平台的推出标志着我国在AI安全领域迈出了重要的一步，为应对未来的挑战奠定了坚实的基础。

标签： 平台、 检测、 模型、 安全、 AIGCSafe、

本文地址： https://www.gosl.cn/jsjcwz/6fbf725386596f65c907.html

上一篇：推动城市全面数字化转型的庞大工程即将展开...
下一篇：助力智慧化转型引领学术创新与出版业繁荣发...