微信视频通话能够轻易被“换脸”吗?

5月20日，平安包头发布微信官方账号文章，称5月8日，包头市公安局电信网络犯罪侦查局发布了一起利用智能人工智能技术进行电信诈骗的案件。警银联动成功停止支付涉嫌电信诈骗的330多万元。

事情始于4月20日11时40分左右。福州某科技公司法定代表人郭先生的朋友突然通过微信视频联系了他。经过短暂的聊天，他们的朋友告诉郭先生，他们的朋友在其他地方投标需要430万元押金和公共账户，所以他们想借郭先生的账户。

(资料图)

我的朋友向郭先生要了一张银行卡号码，声称他已经把钱打到了郭先生的账户上，并通过微信向郭先生发送了银行转账底单的截图。在视频聊天信任的前提下，郭先生没有核实钱是否到账，于11时49分给对方打了430万元。钱转账后，郭先生给朋友微信发了一条消息，说事情已经办好了。但他没想到的是，朋友回来的消息竟然是个问号。

郭先生打电话给朋友，对方说没有，他意识到遇到了“高端”骗局，对方通过智能人工智能面部交换技术，假装是朋友欺骗他。

假如是微信好友账号直接进行AI换脸换声，真的很容易让人提前产生“好友信任”。

中国商业新闻记者联系微信和包头公安局，截至新闻发布，微信尚未提供具体的技术响应，包头公安局宣传部门表示将与警方确认信息，截至新闻发布，尚未更新信息。然而，据中国商业新闻记者了解，联系郭先生，发起视频聊天微信号码，是郭先生的新朋友微信账号。

那么，微信视频通话能轻易被“换脸”吗？

许多网络安全专家就微信视频中实时换脸换声的可行性进行了专业讨论。一位网络安全人士告诉记者，如果你想在实验室环境条件下进行不易识别的专业人工智能换脸换声，后者将为其提供强有力的计算机性能支持。如果你只依靠手机的性能，你只能提供P图级的换脸，这很容易识别。

对于这一事件，奇安信安全专家裴志勇告诉《中国商业新闻》，首先，所谓的微信账号“新号码”和“旧号码”本身更多的是一种主观感觉，骗子假装是朋友小号，谈论上个月的欺诈，受害者也会主观地认为这是一个旧号码。其次，诈骗案还有很多细节尚未披露。仅仅通过短暂而逼真的人工智能视频聊天就可以骗取数百万。这是不现实的。中间一定有很多复杂的过程。原本复杂的诈骗过程不应简化、标签化。

此外，裴志勇还告诉记者，从现有技术发展的角度来看，虽然完成相关欺诈过程并非完全不可能，但成本太高，因此在现实中使用的概率也很低。

就具体实施技术难度而言，裴志勇表示，如果受害者想在视频聊天过程中看到人工智能合成的视频而不是摄像头直接捕获的视频，就必须使用安全漏洞劫持摄像头来传输虚假视频，这是非常困难的。如果这是一个如此先进的漏洞，它通常不会被普通人使用，因为一旦欺诈失败，漏洞暴露，漏洞将无效。骗子通常不会冒这个风险。

另一个例子是，尽管在视频中更换人脸已经是一项非常成熟的技术。然而，如果你想在实时对话和交流过程中实时更换人脸、捕捉表情和改变声音，你也可以混淆真假。这种技术水平已经超过了绝大多数高科技公司。现实更有可能是骗子首先用花言巧语欺骗受害者忽略细节，然后发送合成视频进行欺诈。

总的来说，裴志勇认为，攻击者至少要有偷朋友的微信账号、用漏洞劫持摄像头篡改视频数据、实时变脸、实时变声、缝衣服的技术能力，这至少是极其困难和昂贵的。许多高科技公司可能无法在实验室完美地完成这些挑战。因此，相关事件的文本描述在细节上可能与真实情况不同。

此外，裴志勇认为，对于骗子来说，另一个巨大的挑战是，骗子必须非常熟悉受害者及其朋友的外表、声音、行为习惯、思维方式、相互关系、商业交流等，否则很容易穿帮助。因此，骗子必须经过长期的潜伏和精心的计划，也不能排除熟人犯罪的可能性。

真相需要警方进一步披露，但事件仍然给公众敲响了警钟。奇安信安全专家田平告诉《中国商业新闻》，人工智能欺诈是传统欺诈技术使用新技术的混合欺诈，从欺诈剧本或传统的冒充熟人、领导等手段，但面部模拟、声音模拟让受害者放松警惕，更容易被欺骗。

从预防的角度来看，田平提醒公众需要确保以下三点：第一，不要点击任何不熟悉的人发送的未知网站，下载未知来源的应用程序，避免木马的风险，确保个人信息秘密和手机设备的安全控制；第二，个人信息会通过多种渠道泄露，因此在涉及资本转移等高风险行为时，需要通过电话回拨等多种方式确认对方的身份，在沟通中询问最近的会议时间和地点；第三，社会各界也应积极遵守2022年底实施的《反欺诈法》的规定，加强对聊天工具和转账双方身份的管理和确认，对高风险行为采取谨慎允许的态度，防止欺诈。

(文章来源:第一财经)