今年“3·15”晚会曝光了“AI换脸”类诈骗的案例。受害人看到了亲戚朋友熟悉的样貌而上当，这些以假乱真的视频，都是通过“AI换脸”技术伪造的。记者近日采访了一家网络安全企业，他们协助公安部门破获了多起利用“AI换脸”伪造色情视频进行敲诈勒索的案件。



前不久，河北的一位李先生在浏览交友App时，因没禁住诱惑，同意了与所谓“美女”的聊天要求，并下载了对方发来的一个非法聊天软件。殊不知这位所谓的“美女”是诈骗人员假冒的。而就在聊天过程中，诈骗人员已将李先生的样貌截取了下来，并利用“AI换脸”伪造了带有李先生面容的色情视频。与此同时，诈骗人员还利用非法聊天软件获取了李先生手机中所有联系人的手机号，以此来对李先生进行敲诈勒索。为了让诈骗人员删除色情视频，无奈之下李先生只得同意向对方转账12万元。



广东深圳某网络安全科技公司员工 钟子骥：这个App里有数十万的用户，最终通过这种方式实施诈骗勒索，平均每个人的受骗金额都是几十万元。




在这家企业技术攻破的一些诈骗团伙的数据库中，记者看到了海量的公民个人隐私信息。这个电子表格中存储的就是众多银行理财用户的隐私信息，其中包括了姓名、手机号、身份证号、嘤航卡号，甚至还有用户理财账户金额和风险评估类型。



广东深圳某网络安全科技公司负责人 肖坚炜：比如诈骗分子从受害者手机里摘取外卖信息，包括所在的城市、买的物品信息等，诈骗分子通过这些信息就知道了受害者的消费习惯、爱好、经常出现的位置，进而设计好剧本与受害者顺利聊天，才具备诈骗分子利用AI合成的视频对受害者实施诈骗的前提。

记者体验“AI换脸”：面部特征可被提取 声音可被改造

公安部数据显示，近两年来，全国共发生“AI换脸”类诈骗案近百起，累计造成经济损失高达2亿元。“AI换脸”诈骗其中的套路有哪些？记者近日来到浙江大学区块链与数据安全全国重点实验室，在这里体验了一回“AI换脸”。




画面中，这位充当总台记者替身的姑娘实际上是浙江大学网络空间安全学院的学生小刘博士。在视频中，通过AI技术，浙大的研究人员成功将记者的面部特征移植到了刘博士的脸上，并对刘博士的声音也进行了改造，这样就合成出了“AI换脸”版的所谓总台记者。




浙江大学区块链与数据安全全国重点实验室任奎团队成员 廉伟辰：我们首先去锁定记者和刘博士面部信息和位置，然后在里面提取出两个人的面部特征信息，之后用“AI换脸”模型去拟合两个人的五官分布，因为刘博士面部特征分布情况和记者分布情况不一样，所以需要让记者的面部特征移到刘博士的脸上，等到AI模型拟合完成之后，再把背景信息融合进来，合成最后的效果。

今年“3·15”晚会曝光了“AI换脸”类诈骗的案例。受害人看到了亲戚朋友熟悉的样貌而上当，这些以假乱真的视频，都是通过“AI换脸”技术伪造的。记者近日采访了一家网络安全企业，他们协助公安部门破获了多起利用“AI换脸”伪造色情视频进行敲诈勒索的案件。



前不久，河北的一位李先生在浏览交友App时，因没禁住诱惑，同意了与所谓“美女”的聊天要求，并下载了对方发来的一个非法聊天软件。殊不知这位所谓的“美女”是诈骗人员假冒的。而就在聊天过程中，诈骗人员已将李先生的样貌截取了下来，并利用“AI换脸”伪造了带有李先生面容的色情视频。与此同时，诈骗人员还利用非法聊天软件获取了李先生手机中所有联系人的手机号，以此来对李先生进行敲诈勒索。为了让诈骗人员删除色情视频，无奈之下李先生只得同意向对方转账12万元。



广东深圳某网络安全科技公司员工 钟子骥：这个App里有数十万的用户，最终通过这种方式实施诈骗勒索，平均每个人的受骗金额都是几十万元。




在这家企业技术攻破的一些诈骗团伙的数据库中，记者看到了海量的公民个人隐私信息。这个电子表格中存储的就是众多银行理财用户的隐私信息，其中包括了姓名、手机号、身份证号、嘤航卡号，甚至还有用户理财账户金额和风险评估类型。



广东深圳某网络安全科技公司负责人 肖坚炜：比如诈骗分子从受害者手机里摘取外卖信息，包括所在的城市、买的物品信息等，诈骗分子通过这些信息就知道了受害者的消费习惯、爱好、经常出现的位置，进而设计好剧本与受害者顺利聊天，才具备诈骗分子利用AI合成的视频对受害者实施诈骗的前提。

记者体验“AI换脸”：面部特征可被提取 声音可被改造

公安部数据显示，近两年来，全国共发生“AI换脸”类诈骗案近百起，累计造成经济损失高达2亿元。“AI换脸”诈骗其中的套路有哪些？记者近日来到浙江大学区块链与数据安全全国重点实验室，在这里体验了一回“AI换脸”。




画面中，这位充当总台记者替身的姑娘实际上是浙江大学网络空间安全学院的学生小刘博士。在视频中，通过AI技术，浙大的研究人员成功将记者的面部特征移植到了刘博士的脸上，并对刘博士的声音也进行了改造，这样就合成出了“AI换脸”版的所谓总台记者。




浙江大学区块链与数据安全全国重点实验室任奎团队成员 廉伟辰：我们首先去锁定记者和刘博士面部信息和位置，然后在里面提取出两个人的面部特征信息，之后用“AI换脸”模型去拟合两个人的五官分布，因为刘博士面部特征分布情况和记者分布情况不一样，所以需要让记者的面部特征移到刘博士的脸上，等到AI模型拟合完成之后，再把背景信息融合进来，合成最后的效果。