最佳回答

“为什么会这样用英语怎么说口语”不仅能模仿你为什么会这样用英语怎么说口语的脸 还能模仿你的声线……这些AI新骗术要警惕

　　AI技术的发展，给我们的生活带来很多便利，然而在近期发生的诈骗案中，犯罪团伙也利用上了AI技术，令人真假难辨。

　　在湖北黄石，一名老人急匆匆到派出所报案，说她接了孙子的电话后就被骗了两万元，但她可以确定，电话那头分明就是她孙子的声音，怎么就被骗了呢？

　　接了“孙子”来电

　　却被骗两万元

　　刘女士今年70多岁了，她的孙子在本地的一所学校上初中。今年4月28日下午，她和老伴突然接到孙子打来的电话。

　　被害人 刘女士：我孙子说他在外面超市里买东西时，把别人一推，头被打破了。那个孩子在医院里面，孙子已经在派出所。对方要求私了，给2万块钱。

　　接到电话后，老两口非常着急。由于当时家里的钱不够，刘女士赶紧给亲朋好友打电话筹钱。不一会儿，家里的座机电话又响了。

　　被害人 刘女士：这个时候来电话了，孙子在电话那头哭得不行了，哭得很伤心。他说奶奶来救救我，我知道我错了，我以后再也不会犯错了。这个事情别跟妈妈讲，讲了我就跳楼。我安慰他，我说别急，人人会犯错，奶奶不怪你。

　　叮嘱老人

　　千万不能告诉家长

　　听到电话那头孙子的哭声，老两口更加着急了，赶忙东拼西凑了2万块钱。由于孙子说千万不能将这件事告诉妈妈，老人就决定自己去派出所给孙子送钱。但是，当她询问孙子在哪个派出所时，对方突然挂掉了电话。

　　老两口不知道孙子在哪个派出所，也不敢联系孩子的父母和学校，就在他们手足无措的时候，电话铃又响了。

　　被害人 刘女士：这个时候电话铃又响了，他说你不用来，我同学爸爸来拿钱。我说来拿钱可以，我就把爷爷电话告诉你，来的时候找不到我就打这个电话，我接到这个电话就给钱。

　　在电话里孙子告诉了老两口一个地址，说一会儿同学的爸爸会去那里取钱，只说了这一句就挂断了电话。老两口听后赶紧拿着现金出了门，按照指示来到孙子说的地点，等待取钱的人。

　　公共场所的视频画面显示，当天下午5点左右，一名戴着帽子和口罩的男子出现在老两口附近。随后，他掏出手机拨打电话，并将电话交给了刘女士。

　　被害人 刘女士：电话递给我叫我接，对方说奶奶给吧，是我孙子的声音，这个时候我毫不犹豫地把钱给他了。

　　始终未告诉家人

　　直到孙子回家才察觉被骗

　　视频画面显示，男子拿到钱以后，迅速离开了现场。对方把钱取走后，老两口觉得孙子遇到的麻烦已经解决，放心回了家。接下来的几天，刘女士守口如瓶，没有向任何人提起这件事。直到孙子回到家，老人问起当时的情况，得到的回复却令人大吃一惊。

　　被害人 刘女士：我就问我孙子，同学的头打破了现在怎么样？他说没有这个事。我这个时候就知道自己被骗了，就报警了。

　　接到老人的报警后，警方立即展开调查。他们发现近段时间在当地用这种方式实施诈骗的案件，不仅有这一起。

　　黄石市公安局黄石港区分局刑侦大队大队长 徐海雄：短短的几天内，公安机关就接到了两起报案。报案的内容都是冒充孙子诈骗老年人的案件，而且犯罪嫌疑人要求上门取钱。公安机关通过调取视频画面，发现是同一人上门取钱，所以公安机关将这两起案件并案处理。

　　民警调查发现，这两起案件里的被害人都是老年人，而且诈骗电话都是通过家里的座机打进来的。

　　黄石市公安局黄石港区分局刑侦大队大队长 徐海雄：老年人在家通过座机接听电话，一般情况下不会注意对方电话的来电显示。对电话的内容核实带来了困难，给犯罪分子带来了可乘之机。

　　网上找到高薪兼职

　　上门取钱并转移资金

　　民警根据视频线索，成功锁定了在两起案件中负责上门取钱的犯罪嫌疑人张某，并将其抓获。据张某交代，他是按照上家的指示前往现场取钱并转移资金。

　　黄石市公安局黄石港区分局刑侦大队民警 兰迪：嫌疑人到案之后，经过审讯我们了解到，他是在网上收到了犯罪团伙发送的兼职信息，可以日赚千元。工作内容也很简单，就是上门收取诈骗资金，然后放到指定的地点，再由诈骗团伙安排人员把钱取走。目前此案我们正在进一步侦办当中。

　　两位被害人都表示，电话里骗子的声音都和自己亲属的声音极为相似。那么，犯罪嫌疑人是怎么做到伪装得这么像的呢？被害人刘女士提到了这样一个细节。

　　被害人 刘女士：孙子曾经提供这样一个信息，曾经有几次打进电话是我接的，但是我问找谁没人应。

　　逐步收集声音信息

　　再精准施骗

　　根据被害人提供的线索，民警分析认为，犯罪嫌疑人可能是通过多次拨打刘女士家的座机电话，逐步收集了她孙子的声音信息，进而利用这些信息实施了诈骗犯罪。

　　黄石市公安局黄石港区分局刑侦大队民警 兰迪：在接听电话的过程当中，骗子能够捕捉到孙子声音的特点，进而利用这个声音进行声音的克隆。通过声音的合成技术是完全可以做得到的。

　　民警调查发现，现在很多软件都具备声音模拟的功能，能够高度还原甚至伪造他人的语音。而在这几起案件中，被骗的都是家里的老人，听到孙子求助的声音后一下就慌了神，也顾不上分辨对方是真是假。

　　警方提示，老人再接到类似这样的电话，一定要多聊几句，如果对方不容分说就挂断电话，很可能就是用AI软件提前录好的声音。

　　“AI换脸”激活电话卡

　　警方演示步骤

　　除了利用AI模拟声音，犯罪团伙还盯上了“AI换脸”。前不久，湖北襄阳警方就查获了一起利用“AI换脸”技术激活电话卡，再倒卖给诈骗团伙的案件。根据相关规定，电话卡激活联网是需要实名认证和人脸识别的，那么，犯罪团伙是如何做到的呢？

　　2024年5月，襄阳警方获取了一条线索，辖区内有人通过网络大量购买电话卡。

　　南漳县公安局网安大队大队长 叶文俊：发现本地一名可疑人员，伙同外地三名可疑人员在网上大量购买电话卡。我们随即对他们为什么购买电话卡，怎么购买的电话卡和购买电话卡的去向开展综合调查。

　　根据相关法律规定，购买电话卡需要进行实名制登记。那么，嫌疑人是如何购得这些电话卡的呢？即使他们成功购买了电话卡，还需通过用户的人脸识别来激活使用。对于这些步骤，嫌疑人又是如何逐一完成的呢？

　　警方调查并成功锁定了这一犯罪团伙，将团伙成员悉数抓获归案。

　　南漳县公安局网安大队副大队长 吴长融：我们抓获这个团伙成员后，扣押手机卡200余张，现金10万余元。同时我们发现该团伙非法掌握的公民个人信息1000余条。

　　这个团伙由7个人组成，他们分布在全国各地，一般通过网络进行联系。他们分工明确；有负责收集公民个人信息的，有负责购买手机电话卡的，有负责技术的，有负责销售手机电话卡的。

　　非法获取公民个人信息

　　其中包括照片

　　警方调查发现，这一犯罪团伙非法获取了大量公民个人信息，并利用这些信息购买了大量电话卡。然而，电话卡只有通过人脸识别才能激活使用。那么，嫌疑人又是如何完成人脸识别这个步骤的呢？

　　原来，嫌疑人所掌握的个人信息不仅包括姓名、身份证号等，还包含个人照片。他们正是利用这些照片制作成人脸识别所需的动态视频，从而成功通过系统验证，完成电话卡激活。

　　南漳县公安局网安大队副大队长 吴长融：这些手机卡被他们寄给了一名掌握换脸技术的团伙成员。这个人在收到手机电话卡后，会利用换脸软件将公民的个人信息制作成换脸视频。

　　用照片合成动态视频

　　完成认证

　　警方调查发现，嫌疑人在进行电话卡的人脸识别激活步骤时，通过播放预先制作好的人脸合成动态视频，使得注册系统自动完成了识别和认证过程，从而逐一激活了所有电话卡。

　　犯罪团伙将这些电话卡激活后，以每张200元左右的价格卖给电信网络诈骗团伙。

　　南漳县公安局网安大队副大队长 吴长融：这种被非法激活的手机电话卡，大量流入诈骗团伙手中。诈骗团伙利用这些手机电话卡在全国作案50余起，涉案金额超过500万元。山西省太原市一70岁老人，被诈骗团伙利用这种手机电话卡诈骗了60余万元。

　　2025年6月10日，本案的三名主犯因犯帮助信息网络犯罪活动罪，已被南漳县人民法院一审分别判处有期徒刑一年八个月至一年，并处罚金。

　　“线上激活”还足够安全吗

　　如何防范风险

　　据记者了解，这起案件中，犯罪嫌疑人使用的都是同一个运营商的电话卡。他们也是看到了这家运营商在实名认证中的技术漏洞，所以频繁作案。警方已经联系这家运营商，督促他们及时更新系统。那么，其他运营商也会存在这样的问题吗？现有的电话卡激活程序还安全吗？我们又该如何有效防范这些风险呢？带着这些问题，记者采访到了法学专家、行业内的专家以及从业者，去听一听他们的专业分析和见解。

　　为了进一步了解新电话卡的激活流程，记者分别致电了几大运营商进行咨询。

　　运营商客服人员：本人携带您的实名认证的身份证，到当地营业厅开卡。比如您在App上自己号选套餐，我们就安排我们的派送员给您派送到家，派送的时候需要机主本人在场，身份证原件在场，当场给您激活。服务号，那里面有一个专区服务，有一个新号码激活，也可以申请激活一下。

　　根据运营商提供的信息，电话卡激活方式主要分为线上和线下两种。如果选择线下激活，用户可以在营业厅由工作人员协助完成激活流程，或者在快递员派送时现场协助激活。无论哪种方式，都要求用户本人携带身份证件并亲自到场，确保了整个流程的规范性和安全性。

　　如果选择线上激活，可以通过运营商的App或微信公众号。记者打开运营商App进行查看时发现，用户只需上传身份证信息并完成生物识别，即可完成电话卡的激活。

　　然而，随着AI换脸、伪造身份等技术的不断升级，仅依赖“身份证+人脸识别”的线上激活方式，是否还足够安全呢？

　　对外经济贸易大学数字经济与法律创新研究中心主任 许可：我们做网络安全的内行人都会说一句话，没有任何一个网络是永远安全的。人脸识别技术发展可能只有几年的时间，在这几年过程中，有一些技术仍然在不断更新和迭代，每次更新和迭代都可能会带来新的漏洞，所以这个漏洞我们觉得是很难避免的。

　　法学专家指出，人脸识别认证的初衷是为了提升身份验证环节的安全性。然而，随着技术的进步，不法分子攻击的技术手段也在不断提升。这也是新技术应用过程中固有的挑战。

　　对外经济贸易大学数字经济与法律创新研究中心主任 许可：但凡是新技术新应用，它永远存在着我们之前没有发现的新问题，但是我不能因为它存在这种新问题，就抹杀了它自身技术的进步性。在网络安全的斗争中，维护网络安全的一方和去打破网络安全的一方，永远是魔高一尺，道高一丈，在此消彼长中，推动了我们网络安全的水位。

　　然而，法学专家也提到，尽管任何技术都可能存在一定的漏洞，但根据相关法律规定，运营商作为服务提供方，仍然负有保障用户信息安全的法定义务。

　　对外经济贸易大学数字经济与法律创新研究中心主任 许可：运营商一直是网络安全风险防控的第一线，因为我们之所以能够进入到网络空间，很多时候靠的就是运营商提供的入网服务。我国法律已经有非常明确的规定，要求运营商应当提高技术防护的水平和能力，对于这种绕开人脸识别的攻击应当做好防范。

　　《中华人民共和国反电信网络诈骗法》对电信业务经营者的责任作出了明确规定。

　　第九条规定，电信业务经营者应当依法全面落实电话用户真实身份信息登记制度。

　　第十四条规定，电信业务经营者应当采取技术措施，及时识别、阻断用于实施电信网络诈骗等违法犯罪的设备、软件接入网络，并向公安机关和相关行业主管部门报告。

　　法学专家指出，如果电信业务经营者未能依法履行相关义务，造成严重后果，将依法承担相应的法律责任。

　　对外经济贸易大学数字经济与法律创新研究中心主任 许可：如果运营商没有落实好实名制的认证责任，可能会面临着从5万到500万的罚款。在非常极端情况下可能会承担着更多的责任，包括相关的负责人也可能会受到相应的处罚，包括暂停营业，或者是不允许他再从事相关业务的处罚。

　　那么，作为信息通信安全的第一道防线，运营商应该如何有效堵住技术漏洞，履行好风险防控的责任呢？

　　对外经济贸易大学数字经济与法律创新研究中心主任 许可：以夷制夷，由技术带来的风险需要由技术本身的发展去解决。在实践中，一些运营商已经通过人工智能的技术研发出一些以人工智能去防范人工智能造假的产品。通过这种以AI治理AI的方式，去解决我们现在面临的人脸识别攻击的问题。

　　防伪鉴别程序日渐成熟

　　准确率超95%

　　为此，记者专门采访了AI安全领域的资深从业者。据介绍，当前行业内多家领先企业正积极投入防伪技术的研发中，在识别伪造图像和视频方面的准确率已经超过95%，大大提升了现有系统的安全性。

　　AI安全领域从业者 朱萌：现在业内其实已经有这样的技术研发，已经尝试去集成一些用热力图的方法去鉴别对面的AI到底是真的一个人在讲话，还是由深度换脸形成的一个人。实际上业内最顶尖技术的检测率或者检出率是超过95%的，它已经能够在实战中应对AI风险了。

　　朱萌介绍，有些伪造的图片和视频，人眼是难以识别的，但通过训练AI，可以让AI来完成这一任务。

　　不断提升技术手段

　　“用AI对抗AI”

　　实验人员将一段真实视频与另一段经过AI换脸处理的视频输入到检测系统中，系统可以准确识别出哪一段是伪造的。

　　中国电子技术标准化研究院网安中心测评实验室副主任何延哲介绍，当前，一些应用人脸识别技术的单位已经采用了类似的防伪鉴别程序，提升人脸识别系统的可靠性。

　　中国电子技术标准化研究院 网络安全研究中心测评实验室副主任 何延哲：比如某款最新出台的智能手机，它在视频通话的时候就会有一个功能，比如是否识别对面的人脸是伪造的，其实已经把这样的技术应用上了。我们现在AI的发展，生成式人工智能的发展其实也比较方便我们能够利用AI去对抗AI，我们只要保证我们自己相应AI的技术能够不断地创新发展，我们就可以有效地对抗那些利用AI作恶的人。

　　保护个人信息仍是重点

　　安全措施应更严格

　　何延哲认为，除了不断提升技术手段和增强防伪鉴别能力外，个人信息保护依然是非常重要的环节。一方面，普通百姓应提高自我防范意识，避免随意泄露个人信息；另一方面，存储这些信息的单位也应采取更为严格的安全措施，特别是实施分离存储策略。

　　今年6月1日，《人脸识别技术应用安全管理办法》正式实施。该《办法》不仅明确要求人脸识别技术的应用必须遵循合法、正当、必要的原则，并实施严格保护措施。还鼓励、支持研究开发和推广应用安全、方便的电子身份认证技术，推进网络身份认证的公共服务建设。

　　(央视新闻客户端 总台央视记者 张李彬 王思思 刘强 李想)

分享让更多人看到