导航|地址|刷新
人工智能大模型发展，如何安全、规范、可持续？--强国新闻--人民网































首页

党政

党网 · 时政

人事

反腐

理论

党史

党建



要闻

经济 · 科技

社会 · 法治

文旅 · 体育

健康 · 生活

国际

军事

港澳

台湾

教育

科普



观点

人民网评

三评

人民财评

人民来论

人民访谈

人民体谈



互动

领导留言板

强国论坛

828企业服务平台

人民投诉

“大思政课”云平台



可视化

视频

图片

图解

灵境·人民艺术馆

相约体彩



地方

京

津

冀

晋

蒙

辽

吉

黑

沪

苏

浙

皖

闽

赣

鲁

豫

鄂

湘

粤

桂

琼

渝

川

黔

滇

藏

陕

甘

青

宁

新

鹏

雄安



民文



















English

































合作网站

毛主席纪念堂

周恩来纪念网

邓小平纪念网

工会新闻网

中国侨联

学习强国

中共中央党史和文献研究院

中组部12380举报网

全国哲学社科工作办

旗帜网

国家保密局

科普中国

文化企业社会责任报告发布平台

中国国民党革命委员会

“人民消费”中消协教育基地



举报专区









登录







退出










人民网+

中国共产党新闻网

领导留言板

强国论坛

人民视频

人民日报报系

人民日报人民日报海外版中国汽车报中国能源报健康时报证券时报国际金融报网讽刺与幽默中国城市报新闻战线人民论坛环球人物中国经济周刊民生周刊国家人文历史人民周刊人民数字

旗下网站

全国重点实验室环球网海外网人民图片人民网研究院人民慕课

创新服务平台

人民网智慧党建体验中心828企业服务平台人民云





人民网>>强国新闻





人工智能大模型发展，如何安全、规范、可持续？



方经纶


2023年11月08日13:36 | 来源：人民网

小字号









由人民网主办的“智融未来——2023人工智能成果展示会”近日在武汉精彩演绎。展示会上，来自传播内容认知全国重点实验室的相关负责人介绍了生成式人工智能合规性评估体系和语料库的建设情况。

目前，主流价值语料库的建设取得了阶段性进展，已完成3000多万篇基础语料、5万多道问答语料的建设工作。相关工作成果助推了国产人工智能大模型的安全、规范和可持续发展，为生成式人工智能领域提供了更多的规范和参考。

为何要群力群策建设这样一个主流价值语料库？人民日报社传播内容认知全国重点实验室首席科学家张勇东在接受人民网采访时表示，在人工智能时代，媒体的重要职责之一就是保证意识形态的安全。当前，人工智能大模型已经成为一种生成式信息传播工具，因此对于大模型价值观的训练是必要的。“训练人工智能大模型的过程就像培养一个小孩，你从小怎样培养他，在什么环境下去培养他，他将来就成为什么样的人。”主流媒体建立符合中国人自己价值观的语料库，就是对其“成长环境”的一种塑造。

当前，生成式人工智能技术（AIGC）发展迅猛，不仅能够应用于文字，更是在视频、音频等多领域实现突破。那么，媒体行业在利用AIGC技术提高生产力的同时，如何防范别有用心者用其制造假新闻，传播假消息？

张勇东认为，保证新闻的真实性，一直以来都是媒体的重要职责。人工智能技术生成的内容伪装性和欺骗性都很强，的确有可能会导致更多的虚假内容产生。“因此，我们要用AI对抗AI。”基于一些防御性人工智能技术，首先判断信息内容是否为人工智能技术生成，向用户发出预警。另外，随着主流价值语料库的规模不断扩大，还能够通过人工智能技术将存疑信息与语料库内数据进行对比，从而帮助用户判断出信息是否与事实相符，若为谣言，还能够列举其中哪些信息点是错误的。

据了解，由传播内容认知全国重点实验室主导，与中国科学技术大学、合肥综合性国家科学中心人工智能研究院联合推出的AI生成内容检测工具——AIGCX，可快速区分机器生成文本与人工生成文本，目前对中文文本检测的准确率已超过90%。







(责编：方经纶、贺迎春)

分享让更多人看到



客户端下载

人民日报

人民网+

手机人民网

领导留言板

人民视频

人民智作







热门排行

1时习之丨与党同心同行 习近平引领新时代…

2时习之丨进博会上，习近平多次阐明中国扩…

3在学习贯彻习近平新时代中国特色社会主义…

4时习之丨在新时代新征程上书写巾帼荣光 …

52023年10月国家社科基金年度项目、…

6习近平新时代中国特色社会主义思想蕴含的…

7时习之丨共赴“进博之约” 习近平阐述经…

8果园铺就致富路 “四好农村路”让乡村振…

9人民网评：让大流量自觉走向正能量

10四川发布干部任前公示






人民日报社概况|关于人民网|报社招聘|招聘英才|广告服务|合作加盟|供稿服务|数据服务|网站声明|网站律师|信息保护|联系我们

人民日报违法和不良信息举报电话：010-65363263    举报邮箱：jubao@people.cn

人民网服务邮箱：kf@people.cn    违法和不良信息举报电话：010-65363636    举报邮箱：rmwjubao@people.cn

互联网新闻信息服务许可证10120170001  |  增值电信业务经营许可证B1-20060139  |  广播电视节目制作经营许可证（广媒）字第172号

信息网络传播视听节目许可证0104065 | 网络文化经营许可证 京网文[2020]5494-1075号 | 网络出版服务许可证（京）字121号 | 京ICP证000006号 | 京公网安备11000002000008号

人 民 网 股 份 有 限 公 司 版 权 所 有 ，未 经 书 面 授 权 禁 止 使 用
Copyright © 1997-2023 by www.people.com.cn. all rights reserved






评论



分享

关注
微信微博快手
第一时间为您推送权威资讯

报道全球 传播中国

关注人民网，传播正能量





返回顶部

------
导航页 打开网址