AI造谣不是“高科技”，是犯罪！——全国首例利用AI合成虚假视频案宣判

近年来，人工智能（AI）技术发展迅猛，但也有人动起了“歪脑筋”。2023年，浙江绍兴上虞区人民法院审理了一起利用AI自动生成虚假视频并传播的案件，两名被告人因犯“编造、故意传播虚假信息罪”被判处有期徒刑并适用缓刑。该案已入选人民法院案例库，成为AI时代法治进程中的一个标志性判例。

案件回顾：AI“一键造谣”，视频点击超167万

2022年10月，张某伟与陈某宇在山东滕州成立了一家网络科技公司。从2023年5月起，他们开始利用AI技术“批量生产”视频内容：

· 复制网络热点新闻的标题和关键词；

· 使用AI软件自动生成文案；

· 再利用视频创作软件合成视频；

· 最后通过购买的多个平台账号发布。

在发布的1万余条视频中，有20余条是彻头彻尾的虚假信息，涉及浙江、湖南、上海、四川、贵州、河北等多地。其中一条题为 《浙江工业园现场大火浓烟滚滚，目击者称有爆炸声！》 的虚假视频，造成了极为恶劣的社会影响，甚至逼得多地职能部门出面辟谣。

据统计，这些虚假视频累计阅读和观看量超过167万次，严重扰乱了社会公共秩序。

法院判决：构成编造、故意传播虚假信息罪

2023年11月6日，浙江省绍兴市上虞区人民法院作出判决：

· 被告人张某伟、陈某宇的行为已构成编造、故意传播虚假信息罪；

· 二人系主犯，依法应承担全部责任；

· 鉴于其认罪悔罪态度良好，法院判处有期徒刑一年一个月，缓刑一年六个月。

判决后，二人未上诉，检察机关未抗诉，判决已生效。

法官说法：AI不是“护身符”，传谣必究

法院在裁判理由中明确指出：

· 根据《刑法》第291条之一，编造虚假的险情、疫情、灾情、警情并在网络上传播，严重扰乱社会秩序的，即构成犯罪；

· 使用AI技术合成视频，并不能改变其“编造虚假信息”的本质；

· “严重扰乱社会秩序”的认定，应综合考量发布数量、传播范围、社会影响、政府应对措施等多方面因素。

裁判要旨：为AI内容划下法律红线

本案确立了两条重要裁判规则：

1. 利用AI合成虚假险情、灾情等视频并传播，扰乱社会秩序的，应以编造、故意传播虚假信息罪定罪处罚；

2. 是否“严重扰乱社会秩序”，应结合视频数量、传播量、社会影响与政府应对等因素综合判断。

结语

技术无罪，但使用技术的人必须守法。AI不是“造谣工具”，更不是“法外之地”。本案的判决向社会传递出明确信号：任何利用技术手段扰乱社会秩序的行为，都将受到法律的严惩。