科技创新
AI“狂飙”有底线!重庆下架违规处方、给合成内容贴标签、备案大模型,让新技术装上“安全闸”
城乡统筹发展网 10-17 12:55:10

▲重庆市委网信办副主任魏春就记者数据安全风险提问进行相关解答

城乡统筹发展网讯 面对AI技术滥用、AI生成虚假信息、数据安全风险等问题。重庆采取了哪些具体举措?

10月17日,在“高质量完成‘十四五’规划 谱写中国式现代化重庆篇章”系列主题新闻发布会——介绍“十四五”时期重庆网络安全和信息化高质量发展成效发布会上,市委网信办副主任魏春就记者提问进行相关解答。

魏春介绍,市委网信办坚持发展和安全并重,积极推动生成式人工智能健康有序发展,主要表现在三个方面。

大力整治AI滥用问题。开展整治AI技术滥用专项行动,强化AI技术源头治理,今年已下架“AI开处方”等10多款违规AI产品。督促网站平台按照标识要求,对AI生成的内容以“贴标签”的方式进行标注,方便群众一眼就能够识别清楚。推动网站平台健全AI生成合成内容审核机制,提升虚假信息检测和鉴别能力。同时,重点整治利用AI技术制作发布虚假信息、假冒他人实施侵权违法、从事网络水军活动等突出问题,依法处置利用AI违规引流账号56个,清理AI生成的虚假信息1500多条。

积极推动AI应用落地。市委网信办既抓管理,也抓服务,推动AI走出实验室,走向生产线,走进生活圈。从产业数字化到数字产业化,从低空飞行器到工业智能体,加快建设人工智能应用高地,赋能产业、服务民生。在大家熟悉的汽车领域,市委网信办推动长安汽车“天枢大模型”应用落地,今年在多款车型投入使用,人车交互更自然、更舒适、更有趣,目前已服务5万多用户。

切实筑牢AI安全防线。加强风险防范,推进大模型备案,开展全流程测试评估,确保安全合规才允许上线。现在,全市已有“轩辕”等4个大模型通过国家备案,“分身数”等5款AI应用完成市级登记。强化对AI内生安全和应用安全风险的监管,指导企业在算法研发、数据训练、算力设施等方面加强安全防护,系好智慧出行的数字“安全带”。

文/图 记者 亦歌 审核/刘辉

【免责声明】城乡统筹发展网未标有“来源:城乡统筹发展网”或“城乡统筹发展网LOGO、水印的文字、图片、音频视频等稿件均为转载稿。如转载稿涉及版权等问题,请与城乡统筹发展网联系。

相关推荐