强化法治约束，确保人工智能不跑偏

——8位代表委员谈人工智能发展与治理

当前，人工智能的发展势头强劲，但人工智能带来的问题与挑战也日益显现。2026年1月1日起正式实施的新修订的《中华人民共和国网络安全法》，新增第20条规定“国家支持人工智能基础理论研究和算法等关键技术研发，推进训练数据资源、算力等基础设施建设，完善人工智能伦理规范，加强风险监测评估和安全监管，促进人工智能应用和健康发展。国家支持创新网络安全管理方式，运用人工智能等新技术，提升网络安全保护水平”。法律在认可人工智能技术的同时首次将人工智能纳入监管，为人工智能治理提供了重要法治遵循。针对人工智能的发展以及未来可能面临的问题，记者日前采访了8位人大代表和政协委员。

多维透视

锁定人工智能发展的现实难题

文生视频、智能家居、智慧工厂……近年来，人工智能正以前所未有的速度融入大众生活与产业生产的方方面面。人工智能让人们的生产生活变得高效、便捷的同时，也暗藏着亟待破解的安全隐患与治理难题。

陈雨佳代表

“我身边有老乡反映，同样买一张返乡车票，用老年机和用智能手机的价格就不一样。还有网购农资时，不少农民发现经常购买的商品价格反而比新用户首次购买的价格高，更让人无奈的是低质的人工智能产品涌入市场，比如有些农业人工智能诊断工具，连小麦锈病和白粉病都分不清，耽误了农时。”谈到当前人工智能应用中存在的问题风险时，全国人大代表、黑龙江省宁安市玄武湖大米专业合作社销售经理陈雨佳颇感无奈。

冯涛代表

全国人大代表、国网山东省电力公司聊城供电公司数字化部信息建设运检班班长冯涛说：“人工智能打破了技术壁垒，让技术使用不再受限，但大量虚假数据滥竽充数的情况也不容忽视，比如不少商家用人工智能生成虚假宣传内容、假好评、假销量，甚至伪造专家推荐，误导消费者。更让人担心的是，借助人工智能换脸、拟声等技术，已经出现不少冒充亲友、公职人员诈骗的案例，普通人很难分辨，财产安全受到威胁。”

李霞代表

全国人大代表、湖北省江陵县疾控中心国家血防基地办主任李霞也十分关注人工智能领域，她认为，人工智能技术当前面临的最大风险是安全伦理和监管缺位。例如AI变声和换脸，特别是在未经授权的情况下使用他人肖像和声音，已经涉嫌侵犯他人的肖像权，而相关网络平台、监管部门却出现了管理缺位现象。

齐向东委员

“数据安全风险随着技术发展也逐渐呈现。现在越来越多的企业为了让人工智能的作用最大化，把积累多年、分散各处的设计图、生产工艺、业务数据等进行加工处理，形成高价值、集中化的精华数据‘喂’给人工智能大模型或智能体。一旦人工智能应用被攻破、被控制，精华数据极易丢失，企业多年积累的核心竞争力会瞬间化为乌有。”全国政协委员、全国工商联副主席、奇安信集团董事长齐向东表示，“人工智能模型、智能体运行无法独立存在，必须依托云环境存在，这些基础环境可能导致大模型防线被突破。大模型、智能体‘裸奔’上线，会给攻击者可乘之机，加剧数据被盗用的风险。”

朱山代表

全国人大代表、贵州省新的社会阶层人士联谊会会长、贵达律师事务所主任朱山告诉记者，“在商业应用中，部分产品存在过度收集、滥用用户数据，对公民合法权益形成威胁，一些消费者在不知情中被剥夺了公平交易权，而消费者对侵权行为如何取证也面临困难。”此外，朱山表示，人工智能使用存在法律监管体系阶段性不适应的问题。人工智能技术特性使得侵权、违规行为的责任主体认定复杂化，例如某品牌公司涉及智能驾驶辅助功能的交通事故受到广泛关注，将人机责任划分这一难题，再次摆在法律与产业界面前。

周迪代表

“人工智能是新一轮科技革命的核心驱动力，深刻改变着产业格局与社会治理方式，但是人工智能技术‘该不该用、怎么用’的边界还不够清晰，此外，一旦用出问题，‘谁来负责、如何负责’的规则尚未健全。”全国人大代表、浙江宇视科技有限公司研究院院长周迪说道。

采访的过程中，记者发现人工智能发展中的数据使用安全、技术使用边界以及对人工智能技术监管等问题是代表委员普遍关注的话题。网络安全的新情况需要及时得到精准回应，新修订的网络安全法为更好适应网络安全新形势新要求，提出加强法律之间的衔接、完善法律责任制度，与代表委员们的关注不谋而合。

法治筑堤

从顶层设计到精耕细作

齐向东对新修订的网络安全法持肯定态度，他表示：“这是第一次在网络安全领域的基础性法律中明确了人工智能监管内容，为人工智能有序发展提供了法律指引。随着顶层设计的逐步完善，要把人工智能治理的原则性要求实实在在落地，还需要针对重点场景出台专项细则，明确自动驾驶、智能医疗、智慧金融、教育大模型等人工智能应用场景的责任划分；完善技术与安全配套标准，制定人工智能领域的安全评估、漏洞测试、应急响应等国家标准，加强人工智能供应链安全与开源组件审查规范。”

朱山告诉记者，“在有效实施新修订的网络安全法的基础上，还需要加快出台人工智能安全分类分级指南、深度合成检测技术标准、算法审计指南等，为新修订的网络安全法中提到的风险监测评估提供具体的技术标尺和操作手册。”

冯涛附议说：“为最大限度发挥新修订的网络安全法的指导作用，还需进一步完善人工智能系统性立法。要尽快出台人工智能生成内容的标识规范；划定人工智能使用的红线，细化数据使用规则，明确人工智能训练数据的合法来源清单，哪些数据可以用、哪些不能用，明确公开数据的使用边界；出台人工智能侵权的认定和赔偿细则，解决取证难、定损难、维权难等问题。”

杨进军代表

全国人大代表、湖南省城步苗族自治县汀坪乡大水村村医杨进军表示，“尽管新修订的网络安全法通过规范和引导，推动人工智能在安全轨道上稳步前行，但是我发现法律‘田埂’还没完全筑牢，不少现实阻碍让法律的防护作用打了折扣。例如，目前没有明确人工智能的监管部门，甚至出现‘九龙治水水不治’情况，因此需要在法律层面进一步明确监管职能，避免出现监管空白或者重复监管问题。”

“建议国家进一步加强对数据产权方面的立法，明确人工智能使用数据的持有权、使用权、经营权的划分标准，为人工智能使用数据的产权认定提供清晰依据。”李霞说道。

雷春华代表

全国人大代表、湖北省宜昌金宝乐器制造有限公司高级整音技师雷春华表示，“应尽快出台专门的人工智能伦理准则与司法指引，强化算法备案与透明度要求，建立‘技术+法律’双层治理体系，让法治始终跑在技术前面。”

新修订的网络安全法为人工智能治理立起了顶层设计的“四梁八柱”，代表委员的建言献策，为法治落地的“精耕细作”指明了路径。从专项细则的出台到技术标准的完善，从监管职能的厘清到侵权责任的细化，每一步探索都为保障人工智能健康发展筑起法治堤坝。

协同破局

构建人工智能多元治理体系

如何推进人工智能安全治理？齐向东建议：“要强化人工智能生成内容全流程检测机制，强化跨部门联合执法司法，严厉打击恶意爬取数据、批量生成侵权内容等行为；督促人工智能开发和使用企业履行主体责任，完善内容生成的源头审核、生成中的过程监测、生成后的溯源管理，切实筑牢人工智能生成内容的安全防线。”

朱山认为，“需要建立覆盖数据入口、模型运行、内容出口全链条的治理机制。鼓励行业建立训练数据来源记录与披露制度，推动构建合规的数据授权使用渠道，为产业提供清晰的合规指引。同时，建立算法备案与分级审计机制，对具有舆论属性或社会动员能力、涉及重大公共利益的人工智能算法与服务，应依法落实备案要求，并探索根据风险等级，对算法依法进行安全与伦理审计，评估其公平性、透明度及潜在风险。”

与此同时，齐向东和朱山都认为，要完善人工智能生成内容标识与追踪机制，明确要求依托人工智能生成内容嵌入不可篡改的数字水印，标注生成来源、生成时间及版权归属，确保人工智能生成内容带有不可轻易去除的标识，这既能保障公众知情权，又能实现生成可识别、侵权可追踪。同时，监管部门应牵头建立全国统一的人工智能生成内容溯源查询平台，打通不同平台、不同模型的标识数据接口，并支持个人用户和政企机构对疑似人工智能生成内容进行快速核验与溯源追踪。

周迪告诉记者，在调研中，他了解到的浙江杭州高新区（滨江）“改革沙盒”创新做法值得推广，通过在可控场景中开展试点，探索兼顾安全与发展的人工智能治理路径，推动数据要素法治风险治理重心从事中监管、事后处罚向事前预防转变。同时，他建议，“应探索建立健全透明的监督与问责机制，推动个人信息在阳光下被规范使用，以筑牢公众信任的基础。”

针对人工智能侵权问题，不仅要把牢数据源头关，杨进军补充道，“还要建立人工智能生成内容侵权快速响应机制。设立公众举报奖励机制和行业黑名单制度，通过公众监督、政府监管、企业整改的协同治理方式，形成良好的人工智能内容生成生态。”陈雨佳建议，“针对人工智能侵权，单靠个人维权成本高，希望检察机关通过发挥公益诉讼检察职能，督促涉事平台整改。加快推进智慧检察工程，研发人工智能监督模型，提升人工智能领域风险发现、研判和处置能力。同时，探索‘公益诉讼+行业治理’的模式，加强与网信、工信等部门的协作，共享人工智能企业备案信息、风险监测数据，开展专项监督行动，形成治理合力。”

在推动构建协同共治大格局的过程中，雷春华认为，还应当充分发挥行业自律优势，强化行业协会在制定伦理准则、组织合规培训、纠纷调解中的作用，助力人工智能行业行稳致远。

慧育新机

擘画人工智能健康发展蓝图

人工智能技术加速演进带来前所未有的机遇，在法治框架不断完善、多元治理体系加速构建的背景下，如何为人工智能培育创新沃土、擘画可持续的发展蓝图，也是代表委员们的共同关切。

人工智能的发展离不开科技创新，周迪表示，“应加大对人工智能基础研究的资金投入与政策倾斜，鼓励高校、科研院所与企业组建创新联合体，聚焦芯片、算法、算力等‘卡脖子’领域开展协同攻关，突破技术壁垒。同时，完善科技成果转化机制，推动创新成果从实验室走向产业一线，让核心技术成为人工智能健康发展的硬核支撑。”

齐向东建议深化“人工智能+”理念，完善产学研用协同创新体系，鼓励特色行业龙头企业与专业安全厂商构建创新联合体，并设立专项基金促进人工智能安全技术研发和创新成果落地，提升智慧城市、智慧能源、智慧金融等领域的网络安全防护效能。

人工智能作为引领新一轮科技革命和产业变革的核心力量，其价值最终体现在赋能产业的实践中。受访代表委员指出，应立足不同产业的发展特点，打造差异化的人工智能应用场景。作为扎根黑土地的全国人大代表，陈雨佳对人工智能在农业领域的探索十分关注，她告诉记者：“全面推进乡村振兴是实现中华民族伟大复兴的重大任务，如果能将人工智能技术应用到农业生产中，通过智能监测、精准种植等技术赋能农业生产，助力乡村振兴与粮食安全，将是广大农民朋友的福音，也能为人工智能产业应用开辟更为广阔的天地。”

而作为村医的杨进军了解到，近年来，人工智能应用在医学领域的实践也在逐步推进，AI问诊等应用走进了人们的生活。他表示：“目前基层仍面临着优质医疗资源紧缺的困境，如果大力发展AI辅助诊疗、医学影像智能解读、慢病管理等服务，并将其应用面覆盖到县村以及偏远地区，能一定程度上缓解优质医疗资源紧张的问题，提升基层医疗服务水平。”

冯涛从助力产业绿色发展角度提出了建议：“深化AI与智能制造的融合，推动生产线智能化改造、工业机器人协同作业、供应链智能优化，助力产业向高端化、智能化、绿色化转型。”

“人工智能的应用前景十分广泛，不仅是农业、医学、制造等领域，各行各业都应发现人工智能赋能产业创新发展的优势。”雷春华补充说，要通过“人工智能+”的融合发展模式，为经济社会高质量发展注入新动能。

技术的发展需要人才作为支撑，李霞表示，“在人才培育方面，应加强人工智能人才培养体系建设，支持高校增设人工智能相关专业，开展校企合作定向培养，弥补人工智能核心技术、复合型治理人才缺口；同时，完善人才评价与激励机制，吸引海外高端人才回流，打造一支兼具技术研发能力与法治素养的复合型人才队伍。”

人工智能的健康发展，是创新与规范的双向赋能，是技术突破与产业融合的协同推进，更是安全底线与伦理准则的坚定坚守。受访代表委员一致认为，以法治为基、以创新为核、以融合为要、以安全为盾，全方位构建人工智能健康发展的支撑体系，方能让人工智能在创新的轨道上稳步前行。

2026年1月1日起正式实施的《中华人民共和国网络安全法》第20条规定：

国家支持人工智能基础理论研究和算法等关键技术研发，推进训练数据资源、算力等基础设施建设，完善人工智能伦理规范，加强风险监测评估和安全监管，促进人工智能应用和健康发展。

国家支持创新网络安全管理方式，运用人工智能等新技术，提升网络安全保护水平。

（来源：检察日报·声音周刊 全媒体记者：刘钊颖 张吟丰 史隽 匡雪 蒋长顺 韩兵 丁艳红）