民盟德阳市市区支部盟员，德阳市统计局九级专技于鑫（18016130921）反映：

摘要：随着人工智能（AI）技术的飞速发展，其滥用问题日益凸显，特别是以“AI换脸”为代表的深度伪造技术，对个人权益、社会秩序和国家安全构成了严峻挑战。近来演员温峥嵘被多个直播平台使用AI技术换脸进行直播暴露了AI滥用侵权的严重问题。本文旨在分析当前法律体系存在的漏洞，并就未来AI的普及管理提出一套多层次、可行的综合治理建议，以引导AI技术向善发展，造福社会。

我国AI应用越来越普遍，尤其现在短视频中AI使用制作的越来越多，也越来越多侵权现象出现，当前AI技术的滥用暴露出法律与监管体系存在以下主要问题：

1.权责界定模糊：AI生成内容的创作者、传播者、技术提供方及平台方的法律责任不清晰，导致侵权追责困难。

2.监管滞后：现有法律偏重事后救济，缺乏对AI技术开发、部署、应用全生命周期的前瞻性监管。

3.取证与鉴定困难：AI生成内容逼真度高，传统证据规则与鉴定手段难以有效识别深度伪造内容。

4.跨境执法困境：互联网跨国界特性使得跨境AI侵权案件面临管辖权冲突与执法协作难题。

5.专门性立法缺失：现有法规分散于《民法典》《网络安全法》等，缺乏针对AI技术特性与风险的专门立法。

为应对AI滥用问题，构建健康、可持续的AI治理生态，提出以下建议：

（一）完善法律法规体系

1.推动专门立法：制定《人工智能发展与治理法》或《人工智能合成内容管理办法》，明确各方权责与安全标准。

2.建立“负面清单”制度：禁止利用AI从事制作虚假信息、淫秽内容、诽谤侮辱、伪造证据、诈骗、危害国家安全等行为。

3.实施“场景化”监管：根据风险等级采取差异化监管措施，低风险场景备案管理，高风险场景实行准入与安全评估。

（二）强化技术监管与标准建设

1.推行技术治理：强制要求AI生成内容嵌入数字水印与“AI生成”标识，支持研发检测工具，建立国家级监测平台。

2.建立全生命周期安全评估：对AI模型从研发到退出各阶段进行安全与伦理评估。

3.压实平台责任：平台应建立“技术筛查+人工审核+用户举报”机制，对违规内容承担连带责任。

（三）推动行业自律与伦理建设

1.制定行业伦理准则：由行业协会牵头制定自律公约，倡导“负责任创新”。

2.设立企业伦理审查委员会：评估重大项目的社会与伦理风险。

3.加强公众教育：通过学校、媒体等渠道提升公众数字素养与AI信息辨别能力。

（四）加强国际协同与合作

1. 参与国际规则制定：在联合国、G20等框架下推动形成全球AI治理准则。

2.建立跨境执法协作机制：与各国共享信息、互换证据，联合打击跨境AI犯罪。

AI技术是一把强大的“双刃剑”。要让它真正造福社会，而非成为混乱的源头，必须通过系统性的法律完善、技术监管、伦理引导和国际合作，构建一个既能鼓励创新又能有效防控风险的治理生态。这需要立法者、监管机构、技术开发者、行业组织和社会公众的共同努力，以确保人工智能在法治和伦理的轨道上健康、有序发展，最终服务于人类的整体福祉。