12月10日，广州天河公安发布警情通报：近日，广州天河警方接报警称，互联网传播一条以某汽车品牌展台为背景的虚假低俗视频，公安机关迅速开展调查。经查，李某(男，36岁)为炫耀个人技术，利用AI技术生成虚假视频，并在社交平台发布，造成不良社会影响。目前，警方已依法对李某作出行政拘留10日的处罚。警方提示：网络非法外之地,公安机关将严查严惩故意编造、传播网络谣言等违法犯罪行为，请广大网友不信谣不传谣，共同维护网络清朗空间。
小鹏汽车法务部同时发布消息：11月28日，小鹏汽车就有人利用AI技术生成虚假视频向公安机关报案。案件现已侦破，涉案男子李某被公安机关处以治安拘留10日的处罚。感谢公安机关的公正执法，也感谢社会各界对该事件的关注。我们坚决维护企业正当权益，对于任何以违法手段损害品牌声誉、扰乱社会秩序的行为，都将通过法律途径严肃追责，共同营造风清气正、守法有序的网络环境。
11月28日，这段AI生成的不雅视频开始在微信群、微博等社交平台上疯狂传播。视频中，虚假的场景和人物形象被AI技术拼凑在一起，营造出一种极具冲击力的视觉效果，成功吸引了众多网友的眼球。当日，小鹏汽车法务部明确指出视频的虚假性，并强烈谴责这种违法行为，通过对车展现场的情况进行核实，确定车展期间从未邀请任何模特及演艺人员，从而判断该视频是AI伪造的恶意抹黑内容，同时向公安机关正式报警。
警方通过专业的技术手段，对视频的传播路径、发布账号等信息进行追踪溯源。在调查过程中，警方充分运用现代科技手段，如大数据分析、网络监控等，逐步锁定了犯罪嫌疑人李某。经过一系列深入细致的调查取证，警方最终查明，李某为了炫耀个人技术，利用AI技术生成了这段虚假视频，并将其发布在社交平台上。他的行为不仅严重违背了公序良俗，也对小鹏汽车的品牌形象造成了极大的损害，在社会上造成了不良影响。
随着AI技术的广泛应用，确实给我们的生活带来一定的便捷，但同时也存在一定的风险。有博主为了博取流量，不惜利用AI技术制作不实的视频在网络进行流传。由于人工智能技术使得该不实视频内容看起来非常的逼真，具有一定的迷惑性。使得不少网友误以为是事实，在一定程度上也给车企的名誉带来负面的影响。因此，相关部门需要密切关注AI技术的发展动态，明确AI生成内容的法律责任和边界，对利用 AI 技术进行违法犯罪的行为，制定更加明确、具体的处罚标准，加大惩处力度。
今年5 月，中央网信办印发通知，在全国范围内部署开展为期 3 个月的 “清朗・整治 AI 技术滥用” 专项行动。该行动主要分为2大阶段，其中在第二阶段官方表示将重点整治利用AI制作发布谣言、利用AI制作发布不实信息、利用AI制作发布色情低俗内容、利用AI假冒他人实施侵权违法行为、利用AI从事网络水军活动等行为。对于该专项行动，中央网信办表示主要是防范AI技术滥用风险，维护网民合法权益。加强人工智能相关政策的宣传推广和人工智能素养的科普教育，引导各方正确认识和应用人工智能技术，不断凝聚治理共识。
