不知道你最近是否看到过这张图。

捕捉到外星人全家的视频，在暗网曝光！

一看便是AI合成的假视频。

我是从舅姥爷给我发的微信中看到的。

他说这个重大的新闻你们怎么没写，一点新闻素养都没有！

我能怎么办，我说这是AI合成的。

他不信，说你的嘴能有视频可靠吗？

反手再甩给我十个“内幕消息”的文章。

说真的，自从AI突飞猛进，在家族群里辟谣越来越难。

AI合成的视频，冲浪比较前沿的年轻人能看出奇怪之处。

比如脸突然模糊了，手的位置穿模了，所有人有一种不同于真人的3D感。

可冲浪慢点的老人家，真就傻傻分不清楚。

潮如咱们庆奶，都发出了“我是谁”的问号。

我翻了下账号里的AI视频，我是刘晓庆我也迷糊。

仔细瞧也是能瞧出不少端倪。

皮肤光滑的不像真人，声音没有明显的语气变化。

但足够骗到不少网友了。

截至被封号，这个账号只发了9条内容，已经有两条点赞上万，最高一条到了7.8万点赞。

新闻哥都羡慕哭了。

这种程度，指望所有人特别是长辈能识别出真假，不太现实。

需要的是立法加强管控。

雷军在今年两会的建议之一，就是加强“AI换脸拟声”违法侵权重灾区治理。

原因无他，AI合成届最大的顶流和受害者，就是咱们军儿。

可能是因为雷总声音实在太有辨识度。

好事者用AI音频应用克隆，制作了“雷军语音包”。

下载后就能生成你想说的任何话。

所以你可以发现从去年开始，网上兴起了“雷军骂人”的视频。

视频里的雷总，语气温和但脏话不断，一口一个老子畜生，问候别人母亲。

然后要“远程控制小米手机自爆”“直接操控小米 su7 撞亖你。”

这些还能勉强划为恶搞视频的范畴。

但有时候，恶搞滑落成造谣，很简单。

比如下面这个，用AI合成的雷军说要给某大学50个亿的投资。

不少人听了都信以为真。

不过说实话，这些视频制作都有点太复杂了。

让长辈信以为真，不需要那么高的技术力。

有网友说老爹信誓旦旦告诉他，三星堆挖出了汽车。

证明了咱们几千年前就进入了工业文明。

他一看，是AI做的青铜汽车。

现在专门用AI做视频的账号越来越多。

无论是多粗糙多离谱，都有中老年网友深信不疑。

什么3米高的女人嫁给了1米高的丈夫。

什么村里发现了《山海经》里的白龙。

即使里面写了“内容为AI制作，虚构内容谨慎甄别。”

也会有老人家指着视频：这就是真的！

有朋友觉得，与其磨破嘴皮和长辈反复解释“这是假的”，搞得大家都不愉快。

不如让他们想怎么看就怎么看，只要不涉及金钱交易，爱信啥信啥。

这样暂时是轻松，可到发展成金钱交易的阶段，老头老太还会听你劝吗？

那时候，就真是几辆马车都拉不回来了。

还记得几年前的“假靳东”情感诈骗吗？

骗子注册个账号，用靳东照片搞个PPT，或者电子相册，再进行配音，说“我爱你”。

大把情感需求不被重视的中老年妇女上当，要给“靳东弟弟”打钱。

现在AI技术升级，精细程度远超几年前的粗制滥造。

上当，也就更容易了。

前几天台北的一个69岁老太阮女士到银行取钱，17万，说要汇给梁朝伟帮他订酒店。

阮女士说，他和梁朝伟在网上认识，他们经常视频，整夜整夜的聊天，现在已经定下了婚约。

“刘德华也追我了，我都没理。”

你也能猜到，阮女士说的“梁朝伟”和“刘德华”，都是骗子用AI合成的。

不仅是诈骗，AI谣言还侵入了正经的新闻场景。

前几天传的沸沸扬扬铺天盖地的一条谣言。

80后死亡率破5.2%，70后死亡率低于更年轻的80后，80后每20人中就有1个人离世。

经过人大教授李婷的溯源，最初来源于一个AI对话的截图。

AI画图，就更是真假难辨了。

半分钟输入文字，十秒钟生成图片。

不到一分钟，一个让西安人心惶惶的“学校着火照片”就出炉了。

又或是混入一片“正能量”之中，用虚假的图片博取流量和同情。

早在2023年，绍兴警方就曾抓获了一个用AI制作虚假新闻的团伙。

现在这种人越来越多。

AI进步带来的恐怖生产力，只需要几十秒就能生成上千条大同小异、做工粗糙的图片和视频。

网上能轻易搜到很多类似的“起号教程”，操作的简单程度让人叹为观止。

它们被分配到不同的账号上，最终流向了长辈们的手机。

光靠咱们在家族群里辟谣，累成客服也不管用。

前几天六神磊磊很悲观，写了一篇《人类可能已错过自救的时间窗口了》，说借助智能传播手段，聪明的智商已经赶不上蠢坏谣言的影响力。

再看这些谣言，“可能”两个字是不是多余了。

只能乐观点想，也许这场真假博弈或许会催生新的数字文明。

就像当年纸币对抗假钞，最终演化出防伪金属线、光变油墨等精密技术。

以后真实视频，会有独属于自己的防伪标志。

大概在不久的未来，相信，不再是本能。

而是一种需要反复验证的技能。

真是难得给力的帖子啊。

真是难得给力的帖子啊。

无回帖，不论坛，这才是人道。

激动人心，无法言表！

激动人心，无法言表！

看到这帖子真是高兴！

真是被感动的痛哭流涕……

无回帖，不论坛，这才是人道。

无回帖，不论坛，这才是人道。