近日，一起涉及2亿港元的香港最大AI诈骗案被媒体披露，引发社会震惊。本案中，诈骗分子应用AI（人工智能）深度伪造技术，利用公开资料仿造某跨国公司高管人员的形象和声音，通过动态换脸换声在网上会议中冒充多人，成功从该公司香港分行骗走2亿港元。
这类骗局是冒充领导、熟人类诈骗的升级版。骗子首先通过非法渠道获取受害人的通讯方式，然后用受害人的领导或熟人的姓名和照片伪装诈骗所用社交账号，并添加受害人为好友。接着，骗子利用AI动态换脸换声技术合成受害人的领导或熟人的动态视频，并通过视频通话骗取受害人的信任。为避免露出破绽，骗子很快会故意挂断视频通话，转用文字聊天继续联系，以各种理由要求受害人转账，进而达到诈骗目的。
近年来，随着AI的快速发展，AI动态换脸换声技术也不断成熟。作为基于人工智能的深度学习算法，该技术可实现将一个人的面部、声音特征与另一个人进行融合，创造出另一个人的逼真动态合成影像。不可否认，该技术在很多领域有着良性应用前景，但也给反电信网络诈骗犯罪带来了考验与挑战。
首先，AI动态换脸换声技术会提高诈骗的逼真度和欺骗性。骗子可利用该技术创造出他人的逼真动态合成图像，甚至能在视频通话中实时替换面孔，使得诈骗行为更难以被识别，让受害人更容易被欺骗，即使是对于科技较为了解的人群也可能上当，进而容易在更大范围对更多人群造成经济损失或其他伤害。
其次，传统电信网络诈骗犯罪的手段往往有一定的模式可循，多年来经过政府和社会各界的全力宣传，大多数群众对这些手段已经有了较强的防范意识。但AI动态换脸换声技术的应用，会让骗子的犯罪手段变得更加高科技，具有更强的隐蔽性，不仅给案件侦破工作带来新挑战，也给反诈工作提出了新要求。
眼见不一定为实，有图也不一定就是真相！笔者认为，在电信网络诈骗犯罪手段不断升级的同时，除了警方持续高压打击，全社会的反诈工作也必须跟上AI升级。
提高公众意识。通过各种途径宣传普及AI技术有关知识，进一步提高公众的反诈警觉性，在遇到网络转账等情况时，能做到多方核实、多方查证。
加强技术研发。研发可识别AI动态换脸换声技术的系统，在骗子实施电信网络诈骗犯罪过程中进行检测和警示，从而阻止诈骗行为的发生。
完善法律法规。制定和完善相关法律法规，明确界定AI动态换脸换声技术的合法使用范围，全面加大对非法使用该技术行为的打击力度。
强化网络安全。个人和企业应加强网络安全防护措施，如定期更换密码、启用双因素认证等，减少被诈骗的风险。
形成跨部门合作。政府、科技公司、金融机构等应加强合作，共享信息，形成联防联控机制，共同打击利用AI换脸技术进行的诈骗犯罪。