随着AI技术的发展，从语音助手到自动驾驶，AI已经渗透到生活的各个领域。但AI技术的广泛应用也带来了风险，尤其是深度伪造技术引起了社会的广泛关注。

深度伪造技术运用算法生成极其逼真的虚假内容，通过学习大量真实数据，能够生成与人物或场景高度相似的视频和图像。尽管这一技术展示了AI的强大能力，但也催生了欺诈行为。例如，近期有人冒用张文宏医生的形象和声音进行直播带货，伪造视频中的人物宣称某产品，导致超过1200件商品被售出，引发了张文宏医生和社会公众的强烈不满。

AI,人工智能，机器人，数字人

图源备注：图片由AI生成，图片授权服务商Midjourney

上海市消费者权益保护委员会副秘书长唐健盛表示，这类利用AI技术冒用名人形象的行为，已严重侵犯了消费者权益。类似案例还包括国庆期间有人使用雷军头像制作恶搞视频，以及冒用刘德华声音吸引流量。相关企业和名人已经发出警告，呼吁公众提高警惕。

专家指出，目前AI技术可以轻松克隆他人的面部和声音，且生成的内容逼真度极高。然而，这类技术并非没有破绽。通过仔细观察人脸与背景的融合度或声音与口型的匹配度，仍能发现异常。此外，实时直播目前难以通过此类技术实现。

法律界人士明确表示，未经授权使用他人形象或声音的行为已涉嫌违法。中国政法大学副教授朱巍强调，根据《民法典》，这种行为侵犯了人格权；根据《网络安全法》，相关内容属于违法信息，发布者甚至可能面临刑事责任。

对于消费者而言，如果因AI假冒名人带货而购买商品，可以依据《消费者权益保护法》要求商家“退一赔三”，赔偿金额最低为500元。同时，短视频平台也应承担监管责任，加强对相关内容的审核和处罚力度，防止违法信息广泛传播。

深度伪造技术的兴起，提醒我们在享受AI带来的便利的同时，也要警惕其潜在风险。