多起利用“AI换脸”等技术实施诈骗

近日，利用“人工智能换脸”等技术实施诈骗案件多起，“人工智能诈骗”成为焦点。

包头警方利用人工智能一起发布（AI）根据电信诈骗的典型案例，福州某科技公司法定代表人郭先生在10分钟内被骗430万元。据报道，郭先生的朋友突然通过微信视频联系了他，说他的朋友在其他地方投标，需要430万押金，需要公共账户转账，想借郭先生的账户。基于对朋友的信任和视频聊天的身份验证，郭先生没有验证钱是否到达，所以他把430万转到了朋友的银行卡上。

【资料图】

值得注意的是，骗子没有用模拟好友微信添加郭先生作为好友，而是直接用好友微信发起视频聊天，这也是郭先生被骗的原因之一。骗子很有可能通过技术手段窃取郭先生朋友的微信。幸运的是，在收到报警后，福州和包头警察银行迅速启动了停止支付机制，成功拦截了336.84万元，但仍有93.16万元被转移，目前正在全力追回。

在这种情况下，骗子还使用了多种技术，如“人工智能换脸”和“人工智能换声”，拦截微信号，使骗局难以区分真假。

从以前的人工智能模拟声音到现在的人脸和声音都被人工智能取代，"人工智能欺诈越来越难以预防。这也表明，随着人工智能技术的日益强大，一旦被犯罪分子利用，其社会危害就会更大。

这就要求国家加快人工智能安全管理的完善。一方面，无论人工智能技术有多先进，它也需要公共隐私的“大数据”喂养。例如，在上述情况下，郭先生的朋友可能会导致他的人脸识别信息泄露，并在某些情况下被骗子使用。

人脸识别(支付)近年来越来越普遍、指纹支付和最近推出的手掌支付都与公共生物特征信息有关。一旦相关信息因服务提供商管理不当而大规模泄露，未来会有更多的“郭先生”朋友在不知不觉中泄露自己的生物特征和其他隐私，让不知不觉的“郭先生”面临欺诈风险。

因此，保护个人隐私信息需要加快。虽然近年来，我国先后出台了《个人信息保护法》、《个人信息安全规范》、《数据安全法》等法律法规，加强对公众隐私数据的保护，包括生物特征。但是，徒法不足以自行。由于我国大量新技术的快速应用，相关技术研发和服务提供平台是否具备足够的用户数据安全保障能力，包括相关投资和管理的到位，以及类似黑客攻击时应急系统的完善。

政府有关部门要加快督促企业履行职责，推进有关法律法规规定的配套建设。目前，我国已成长为世界第二大网络安全支出国，网络安全市场已进入快速发展期。但与全球平均水平相比，整体IT投资的比例还有很大的提升空间。这就要求政府通过严格执法，迫使企业继续扩大数据安全投资，弥补原有缺口。对严重不作为、导致数据大规模泄露的企业，要加大问责力度，增加违法成本。

另一方面，政府还应推动企业和研究机构共同开发“技术对策技术”。正如国外开发的人工智能监控技术可以快速判断ChatGPT的作弊。

对于普通公众来说，我们也应该提高我们的个人保护意识。不要轻易参与互联网上流传的“人工智能面部变化”和“人工智能声音变化”活动。还应谨慎使用指纹支付、手掌支付等新兴支付方式，最大限度地保持隐私边界。

总之，在技术面前，并不是每个人都是平等的。与组织和专业的欺诈团伙相比，公共个人的自我保护能力较弱，执法机构、企业等专业机构需要组织秘密保护网络。有关部门应同时促进国家数据安全系统的投资，鼓励更多的专业安全服务企业根据人工智能技术的发展趋势独立开发相关产品，防止未来人工智能安全系统被卡住。

只有通过政府与企业的合作和综合发展，逐步提高我国安全体系建设水平，为公众提供更可靠的服务，更好地防止使用人工智能技术作恶的骗子，人们才能更好地享受技术进步带来的福祉，这也有助于我国安全产业的高质量发展。

(文章来源:新京报)