老舅出轨刘晓庆，三姨劈腿梁朝伟，在家族群里成真了
不知道你最近是否看到过这张图。捕捉到外星人全家的视频，在暗网曝光！一看便是AI合成的假视频。我是从舅姥爷给我发的微信中看到的。他说这个重大的新闻你们怎么没写，一点新闻素养都没有！我能怎么办，我说这是AI合成的。他不信，说你的嘴能有视频可靠吗？反手再甩给我十个“内幕消息”的文章。说真的，自从AI突飞猛进，在家族群里辟谣越来越难。AI合成的视频，冲浪比较前沿的年轻人能看出奇怪之处。比如脸突然模糊了，手的位置穿模了，所有人有一种不同于真人的3D感。可冲浪慢点的老人家，真就傻傻分不清楚。潮如咱们庆奶，都发出了“我是谁”的问号。我翻了下账号里的AI视频，我是刘晓庆我也迷糊。仔细瞧也是能瞧出不少端倪。皮肤光滑的不像真人，声音没有明显的语气变化。但足够骗到不少网友了。截至被封号，这个账号只发了9条内容，已经有两条点赞上万，最高一条到了7.8万点赞。新闻哥都羡慕哭了。这种程度，指望所有人特别是长辈能识别出真假，不太现实。需要的是立法加强管控。雷军在今年两会的建议之一，就是加强“AI换脸拟声”违法侵权重灾区治理。原因无他，AI合成届最大的顶流和受害者，就是咱们军儿。可能是因为雷总声音实在太有辨识度。好事者用AI音频应用克隆，制作了“雷军语音包”。下载后就能生成你想说的任何话。所以你可以发现从去年开始，网上兴起了“雷军骂人”的视频。视频里的雷总，语气温和但脏话不断，一口一个老子畜生，问候别人母亲。然后要“远程控制小米手机自爆”“直接操控小米 su7 撞亖你。”这些还能勉强划为恶搞视频的范畴。但有时候，恶搞滑落成造谣，很简单。比如下面这个，用AI合成的雷军说要给某大学50个亿的投资。不少人听了都信以为真。不过说实话，这些视频制作都有点太复杂了。让长辈信以为真，不需要那么高的技术力。有网友说老爹信誓旦旦告诉他，三星堆挖出了汽车。证明了咱们几千年前就进入了工业文明。他一看，是AI做的青铜汽车。现在专门用AI做视频的账号越来越多。无论是多粗糙多离谱，都有中老年网友深信不疑。什么3米高的女人嫁给了1米高的丈夫。什么村里发现了《山海经》里的白龙。即使里面写了“内容为AI制作，虚构内容谨慎甄别。”也会有老人家指着视频：这就是真的！有朋友觉得，与其磨破嘴皮和长辈反复解释“这是假的”，搞得大家都不愉快。不如让他们想怎么看就怎么看，只要不涉及金钱交易，爱信啥信啥。这样暂时是轻松，可到发展成金钱交易的阶段，老头老太还会听你劝吗？那时候，就真是几辆马车都拉不回来了。还记得几年前的“假靳东”情感诈骗吗？骗子注册个账号，用靳东照片搞个PPT，或者电子相册，再进行配音，说“我爱你”。大把情感需求不被重视的中老年妇女上当，要给“靳东弟弟”打钱。现在AI技术升级，精细程度远超几年前的粗制滥造。上当，也就更容易了。前几天台北的一个69岁老太阮女士到银行取钱，17万，说要汇给梁朝伟帮他订酒店。阮女士说，他和梁朝伟在网上认识，他们经常视频，整夜整夜的聊天，现在已经定下了婚约。“刘德华也追我了，我都没理。”你也能猜到，阮女士说的“梁朝伟”和“刘德华”，都是骗子用AI合成的。不仅是诈骗，AI谣言还侵入了正经的新闻场景。前几天传的沸沸扬扬铺天盖地的一条谣言。80后死亡率破5.2%，70后死亡率低于更年轻的80后，80后每20人中就有1个人离世。经过人大教授李婷的溯源，最初来源于一个AI对话的截图。AI画图，就更是真假难辨了。半分钟输入文字，十秒钟生成图片。不到一分钟，一个让西安人心惶惶的“学校着火照片”就出炉了。又或是混入一片“正能量”之中，用虚假的图片博取流量和同情。早在2023年，绍兴警方就曾抓获了一个用AI制作虚假新闻的团伙。现在这种人越来越多。AI进步带来的恐怖生产力，只需要几十秒就能生成上千条大同小异、做工粗糙的图片和视频。网上能轻易搜到很多类似的“起号教程”，操作的简单程度让人叹为观止。它们被分配到不同的账号上，最终流向了长辈们的手机。光靠咱们在家族群里辟谣，累成客服也不管用。前几天六神磊磊很悲观，写了一篇《人类可能已错过自救的时间窗口了》，说借助智能传播手段，聪明的智商已经赶不上蠢坏谣言的影响力。再看这些谣言，“可能”两个字是不是多余了。只能乐观点想，也许这场真假博弈或许会催生新的数字文明。就像当年纸币对抗假钞，最终演化出防伪金属线、光变油墨等精密技术。以后真实视频，会有独属于自己的防伪标志。大概在不久的未来，相信，不再是本能。而是一种需要反复验证的技能。真是难得给力的帖子啊。 真是难得给力的帖子啊。 无回帖，不论坛，这才是人道。 激动人心，无法言表！ 激动人心，无法言表！ 看到这帖子真是高兴！ 真是被感动的痛哭流涕…… 无回帖，不论坛，这才是人道。 无回帖，不论坛，这才是人道。