“AI换脸”诈骗 眼见不一定为实 探索用AI技术监管AI的可能

2023年4月，福建省某科技公司法定代表人郭先生接到一个微信视频通话，对方声称自己当下需要430万元保证金用以项目竞标，想借用郭先生公司的账户“走个账”。由于之前有过一次视频通话，并且对方表现出了一定的信任，郭先生陆续给对方转账共计430万元。然而，当他再次联系好友时，却发现自己被骗了。意识到自己被骗后，郭先生赶紧向当地公安机关报案。在警方的帮助下，他成功止付了被骗的336.84万元，避免了更大的损失。此案提醒我们，在社交网络上进行交流时，一定要保持警惕。不要轻易相信陌生人所说的话，特别是在涉及到财务方面的问题。

据郭先生回忆，由于在视频电话中确认了对方的面孔和声音，所以毫不怀疑对方身份有诈。不仅如此，犯罪分子还精准了解郭先生与好友的关系，并成功盗取好友微信账号实施诈骗，令人不寒而栗。

AI技术的迭代升级让不法分子借助智能AI换脸和拟声技术，就可轻松实现远程视频诈骗。记者调查发现，最近多地出现的AI换脸诈骗案件，均具备定制性、迷惑性等特征。

其中，香港警方近期披露一起涉案金额高达2亿港元的多人AI换脸诈骗案尤为典型。据媒体报道，某公司职员受邀参加公司“多人视频会议”时，先后将2亿港元分别转账到5个本地银行账户内。据警方调查，这场视频会议中除了受害者外，其余均为AI换脸后的诈骗人员。

不少业内专家表示，随着文生视频大模型Sora等多模态人工智能的探索和出现，人们可能陷入“眼见也不一定为实”的困局。“一直以来，银行等部门将实时视频用做检验身份的手段之一，如今其可靠性将面临巨大挑战。”沈福俊说，“随着人工智能技术的迭代升级，这类违法行为还可能演变出更多形态。”

沈福俊表示，对于这类AI换脸和AI拟声的恶性诈骗案件，传统监管手段已经难以防范。因此，监管部门需要提高自身的科技能力储备，同时探索引入新兴技术，以监管AI的可能。

从消费者的角度出发，沈福俊先生建议提升全民个人信息保护意识，警惕隐私泄露。在互联网和社交软件上，我们应该尽可能避免过多地暴露自己的个人信息。例如，在涉及转账交易等行为时，我们应该多角度询问对方身份信息，并反复验证其是否为本人。除了在行为上进行保护外，我们还可以采取其他措施来加强个人信息的保护。