雷科技
10月19日消息，知名演员吴越自爆遭AI假冒带货，为此深夜发文：“一觉醒来，谁在利用AI肆意抓人替自己作恶？这位花姐你骗了多少人的钱？请如数奉还！太恶劣！”
据吴越贴出的录屏，微信视频号上一个叫“花姐美肤日记”的账号，打着明星同款、吴越推荐的旗号，用AI换脸加克隆声音伪造出一个吴越，推销一款护肤品。
手法也挺全套的，开头是换脸后的吴越直播带货，中间还拼接了吴越公开活动时的真实画面，配上AI合成的声音讲解。
图源:微博截图
视频里，吴越称这款产品是她主动联系商家选的，自己使用后觉得效果很明显。她还在视频中煽动观众直接购买，说：“可以闭眼用、闭眼囤，孕妇也能使用”。
这样的宣传实属夸大产品功效，粉丝在不了解真实情况时很容易被打动并下单。
更离谱的是，这个账号里不止偷了吴越一张脸，还发了多条乒乓球冠军邓亚萍推荐的带货视频，视频末尾也出现了伪造的邓亚萍画面。
事情闹大之后，微信团队也是及时将“花姐美肤日记”账号永久封禁，内容清空。但封掉一个账号，不等于问题就解决了。
图源：微博截图
此前就出现过名人被AI偷脸的事件。
据小雷了解到，演员温峥嵘也曾自曝刷到AI盗播自己的直播间，点进仿冒直播间上前质问，结果还被秒拉黑。
王丽云、李梓萌、全红婵等公众人物，也都曾被AI克隆形象或声音盗用。
为什么骗子越来越多呢？小雷觉得问题的核心就是门槛太低。
先前央视新闻就有花1.98元就能买到一套声音的调查报道，主要做法就是先从公开片段克隆出目标人的声音，再拿一段公开视频换上脸，让嘴型跟着合成的声音动。
成本也低得离谱。上传约10秒纯净人声就能永久克隆一个音色；定制一条1分钟的明星AI推广视频，市场价普遍只要70到100元。
图源：微博截图
一个人、一台电脑就能批量生产，网上到处是明星露脸出声的素材，骗子不用认识本人，就能把他搬进直播间。
小雷还注意到一个细节，这类视频底下还标了一行“含AI生成内容”的标注。
角落里的小字，刷到的人根本很难注意到，说白了就是想怪观众自己没看清，把欺诈责任推卸掉，但这显然有点说不过去。
从法律上讲，未经他人授权利用AI伪造其肖像和声音带货，涉嫌侵犯肖像权、声音权、姓名权及名誉权，同时对消费者构成消费欺诈，消费者可主张“退一赔三”。若骗取金额较大，还可能涉嫌诈骗罪或虚假广告罪。
对于这件事，小雷哔哔（ID：xiaoleibbb）觉得，AI帮人省力、辅助创作，本来是好事，但问题就在于有人把它变成了骗人的工具。
该封的号还是得封，该追的责也得追。但光抓这一个骗子不够，封号治标不治本，更要紧的是在发表之前把这些冒牌货拦住，才是对所有人的保护。
图源：微博截图
今天被偷脸的是知名演员，她还有一条微博能让全网看见。但如果是普通人呢？被AI假冒，普通人没有热搜可用，更难证明屏幕里那个人不是我。
封号只是第一步，接下来真正要看的，是平台能不能把标识做实、提前拦截，以免出现下一个花姐。
大家有刷到过AI假冒带货吗？评论区聊一聊。
