不是，现在AI造假都这么离谱了嘛？
前几天央视曝光了“苗古金贴”骗局，这款产品宣传的名头可不小，号称由传承“千年秘方”的非遗传承人制作，而且还有模有样晒出了“非遗传承人”证书跟“非遗传承人”照片，这下子销量猛涨，登上了电商畅销榜，总销量几十万，当真是恐怖。
图片来源：央视新闻
结果媒体深挖下去，传承人的照片实际上是AI生成的，脸部表情僵硬、手掌有六指、光线美颜到离谱、一眼假。
而所谓的“非遗传承人”证书乃是机构非法制作，花两三千块钱就能够买到；“苗古金贴”则是由第三方代工厂贴牌生产，成本不到10块钱。“千年秘方”、“专治颈椎问题”只不过是借助AI来割韭菜的骗局。
图片来源：央视新闻
AI生成的人物、伪造的品牌证书、贴牌生产的产品，整个事件就魔幻起来了。最后有关部门介入，对相关企业和涉案人立案调查，这波卖假药的就等着法律的审判吧。
图片来源：央视新闻
这件事也让小雷想起以前电视上那位“做出违背祖宗决定”的“神医”，同样是各种光环加身，家族传承得到的药方，也是公然兜售假药。
只不过以前的“神医”是出现在电视，还是真人，现在的“神医”是出现再互联网，还是AI生成的，真“查无此人”。
但电视上的“神医”起码起码还有真人出镜扮演“神医”，这点“情绪价值”多多少少增加点可信度。
图片来源：澎湃新闻
哪像“苗古金贴”这么离谱，直接AI生成人物图片就出来骗，偏偏还有这么多人上当，整个事件都让小雷觉得不可思议却又真实发生了，只能说世界就是个草台班子。
“失控”的AI技术
今年是AI技术蓬勃发展的年份，AI生成图片、AI生成视频、AI生成代码这样的功能也都被AI企业开发出来了，可以说现阶段的AI技术已经进入了一个新阶段，
此前央视315晚会就曝光了AI诈骗的违法行为，目前比较常见的主要有AI声音合成与AI换脸两种，而且随着AI技术的不断进步，成本越来越低，只需花费几十元，就可定制AI深度合成名人音频视频。
图片来源：央视财经
而且围绕AI技术还形成了外呼产业链，外呼公司使用人工智能机器人拨打营销电话，机器人不知疲倦，不管白天黑夜都可以拨打营销电话；而且外呼公司事先用真人录音进行AI克隆复制成机器人的声音，这样一来使得接听者根本难以分辨电话那头的究竟是人，还是机器人。
小雷就曾接到这样的外呼AI电话，两三分钟里确实很难听出来是真人还是AI，后面是发现对面没有换气声，所以才判断出来是AI，但足以迷惑他人了。
此外据新京报报道，现今围绕AI技术也形成了一条完整的黑色产业链：上游技术负责兜售“AI换脸套餐”，中游则利用非法获取的个人信息来投放诈骗信息，下游则通过虚拟货币、跑分平台等渠道转移资金。技术、数据、资金”三位一体“，织了一张AI诈骗的大网，让许多用户深陷其中。
这两年利用AI技术冒充名人实施不法行为事件时有发生，张文宏、靳东、雷军等名人都深受其害：骗子用“AI靳东”实施诈骗，许多女性消费者上当；张文宏医生“带货”冲上热搜，但这是AI换脸之后的“张文宏”，稍微懂点AI的小伙伴一眼就能看出来是假的，可还是有不少老年人上当，在“AI张文宏”处买了产品。
此事也让张文宏医生无奈，他也曾向媒体透露自己投诉无门，不胜其扰。
图片来源：央视新闻
雷军的遭遇更离谱，2024年国庆节期间“雷军语音包”引热议，许多以“雷军”声音为配音的内容在社交平台迅速传播，“锐评”假期堵车、游戏等话题，这其中也出现了不少污言秽语。以至于出现了”国庆7天，被AI雷军骂了8天”的调侃。
雷军本人还专门为此发了个视频，呼吁大家不要再用自己的声音恶搞。
靳东、雷军等名人的遭遇也让我们看到了AI技术滥用的后果，以前讲究耳听为实、眼见为实，但在互联网AI时代，耳朵听到的有可能是假的，眼睛看到的也不一定是真实的。
并且利用AI技术围猎的不仅仅是老年人，即便是年轻人也会掉进坑中。据东南早报报道，福建一公司老板郭某接到了“好友”的视频通话，对方向郭某借钱，不到十分钟的时间里郭某就被骗走430万元，事后才发现电话那头是好友的“数字替身”——脸是直接AI换的，声音也是用AI拟声技术合成的。问题是受害者对此一点警觉都没有，这就有点可怕了。
难怪有人会担心，以前还可以通过观察眼睛、头发、手指等来辨别是否是AI生成，现在这些伎俩都不太好使了。若是AI再发现下去，怕是真可以达到以假乱真的效果。
给AI技术戴上“紧箍咒”
小雷很喜欢一句话，技术本无善恶之分，有善恶之分的是使用技术的人，这句话就是对AI最好、最准确的描述。AI用得好可以帮助人类提高效率、更好地处理复杂繁多的事务；而当AI技术被用于误导消费者、实施不法行为之时，平台与监管者就成为帮凶。
像前面提到的“苗古金贴”骗局，靠着AI生成的图片就可以堂而皇之出来卖假货，这其中暴露的正是电商平台审核制度的缺陷。像电商畅销榜等榜单，平台是否有审核过登上榜单的相关店铺的资质？是否有对店铺投放的广告进行排查？如果平台不重视起来，加强对内容的审核，像“苗古金贴”这种AI生成的假人都能过审的离谱事件，以后只怕会越来越多。
图片来源：中国质量报
想要斩断“苗古金贴”、“AI雷军”等AI技术“恶之花”，还需要监管部门的介入，尽快制订AI技术行业的统一规范，明确AI生成技术、数字人使用的使用范围和条件，让技术能更好地为人类服务。
而对于消费者来说，要懂得保护自己的个人信息，像面部识别、指纹等个人生物信息，能不录就不录；身份证号码、银行卡号、手机验证码等敏感信息也不要随意泄露给他人，免得悔之晚矣。
此外在涉及到资金、关键信息等方面的沟通，还是要留个心眼，通过多种方式来核实对方的真实身份。
毕竟这年头大家赚钱都不容易，要是被AI技术骗走了，那可真是得不偿失了。
总结
还记得几年前AI技术刚飞速发展的时候，有不少人视AI技术如洪水猛兽，觉得应该将AI扼杀在摇篮里。
小雷看来这种想法还是有失偏颇的，新事物的诞生往往都要经历一番曲折的发展，才能够逐渐为世人所接受。
AI也是如此，人类要做的就是引导AI健康发展，让AI真正为我们所用。而不是在技术泛滥的时代里，还要用AI给人类添堵。
像AI换脸诈骗、AI图片谋取不当收益等行为肯定是要制止的，除了严厉打击之外，还需要一套全面、完整的行业标准，将AI技术关进笼子里，才能让AI更好为人类服务。
还没有评论，来说两句吧...