科技的进步究竟是好事还是坏事？
近几年随着网络的发达，和AI的盛行，有越来越多的群众受骗。
先是打着央视名号的李梓萌，高喊“神药”有奇效。
后又有全红婵在直播间“卖惨”，试图博同情让大家买鸡蛋。孙颖莎对着镜头推销土鸡蛋，还搞起了饥饿营销；连王楚钦的账号都挂着 “婵爸婵妈推荐” 的字样卖农产品。
眼看受害者的名单正在无限加长，国家终于开始出手整治。
警方调查后，大家才惊觉：这些 “名人” 全是 AI 伪造的，背后藏着专门盯着老人钱包的骗局。
那么在面对科技这把双刃剑的时候，专家又会用什么方法来解决？
最让人心惊的是央视主持人李梓萌被仿冒的案子。骗子用 AI 技术复刻了她的形象和声音，视频里的 “李梓萌” 衣着得体，神态自然，完全看不出破绽。就是靠着这份 “权威性”，这个 88 万粉丝的账号把普通糖果包装成 “治病神药”，不少老人看完就疯狂下单，有人甚至一次性买了半年的量。
“我看电视上李梓萌天天播新闻，总不能骗咱们吧？” 张奶奶的想法代表了很多老人的心态。他们不懂什么是 AI 换脸，只认 “眼见为实”—— 视频里的人是熟面孔，说的话又实在，哪能想到是假的。直到有老人吃了 “鱼油” 不仅没效果，反而闹了肚子，几十位受害者联合举报，这起骗局才浮出水面。
更过分的是对奥运冠军的仿冒。全红婵的粉丝发现，一段 “她” 推销农产品的音频里，声音虽然像，但语气总透着奇怪的刻意。后来证实，这是骗子用 AI 合成的语音，专门编造 “家庭困难” 的剧情博同情。而孙颖莎的仿冒视频里，“她” 对着一筐鸡蛋说 “自家养的，就剩最后 20 斤”，典型的饥饿营销套路，骗得粉丝争相抢购。
这些骗局能得逞，全抓准了老人的心理。68 岁的刘阿姨就说，孩子们平时忙，没人跟她细说这些新鲜事，手机里的 “名人” 说话亲切，还懂养生知识，比家里人还贴心。时间一长，她就放下了戒心，人家推荐什么就买什么。可她不知道，这些 “贴心” 的背后，全是算法设计好的话术模板。
如果说仿冒名人是利用权威，那伪造亲人声音的骗局，简直是戳中了家人的软肋。湖南洞口县的王大爷就经历过这样的惊魂时刻。去年 4 月，他突然接到 “孙子” 的电话，哭着说自己犯事被派出所扣了，急需 2 万块取保候审。
电话里的声音和孙子一模一样，带着哭腔的恳求让王大爷心都揪紧了。他没敢耽搁，立马取了 2 万块现金，交给了 “孙子” 派来的 “朋友”。直到下午 “孙子” 又要 4 万，王大爷突然想起儿子昨天还说孙子在学校，这才赶紧打电话核实，一查发现根本没这回事。
“声音一模一样，根本没怀疑过。” 事后王大爷后怕得直拍大腿，幸好警方及时拦截，才没让剩下的 4 万块也打水漂。而这类骗局早已不是个例：银川有公司经理接到 “老板” 的视频电话，十几分钟就转了 20 万；贵州一位老板被 AI 换脸的 “好友” 骗走几百万投标保证金。
哈佛大学前不久做的实验更让人揪心。研究人员测试了 6 款主流 AI 模型，发现只要简单操作，就能绕过安全机制生成虚假内容。他们给 100 位老人发了 AI 生成的 “钓鱼邮件”，结果 11% 的老人看都不看就点了进去。这意味着，每 10 个老人里就有 1 个可能中招。
更可怕的是，现在的 AI 造假门槛极低。上传一张照片就能生成动态视频，录几秒语音就能克隆声音，甚至不需要专业技术，网上花几百块就能买到现成的工具。有民警透露，骗子只要收集到足够的照片和语音素材，就能做出以假乱真的音视频，连年轻人都未必能分辨。
就在骗子越来越嚣张的时候，国家终于出手整治了。北京查处了全国首例 AI 虚假广告案，正是针对仿冒李梓萌推销 “鱼油” 的事件，涉事企业被依法行政处罚。而那些仿冒全红婵、孙颖莎带货的人，也都受到了相应的惩罚。
除了靠监管发力，咱们自己也得学会识别 AI 造假的破绽。从事 IT 行业的张先生总结了几个实用技巧，他说连他那懂军事的老爸都能学会：
首先看细节漏洞。AI 生成的人物说话时，很容易出现口型和语音对不上的情况，尤其是说长句子的时候，嘴唇动作会显得僵硬。直播的话更明显，背景往往长期不变，人物神态也没什么变化，不像真人会有自然的表情波动。
其次可以主动测试。遇到可疑的视频通话，就让对方做个指定动作，比如摸鼻子、眨三次眼，或者用手在脸前挥一下。真人能自然完成，可 AI 数字人一做精细动作就容易露馅，要么画面扭曲，要么出现重影闪现。要是对方找借口不做，那十有八九有问题。
最关键的是守住底线。不管是 “名人推荐” 还是 “亲人求助”，只要涉及钱的事，必须多核实一步。陕西省老龄产业协会的侯培琪会长提醒，凡是说 “能治病”“有补贴”“急用钱” 的，先打个电话给子女，或者查一下政府官方电话，千万别听风就是雨。
从狗会做饭的搞笑视频，到名人带货的虚假宣传，AI 技术本身没有错，错的是用它来骗人的人。当技术被用来攻击最脆弱的老年群体时，我们每个人都该站出来筑一道防线。
毕竟，让老人放心用手机，而不是整天提心吊胆；让技术服务生活，而不是变成骗人的工具，这才是科技该有的样子。要是你也遇到过可疑的 AI 视频，欢迎在评论区分享，帮更多人避坑！