近期, AI换脸技术的诈骗案件, 在全国范围呈现爆发式增长态势, 公安部网络安全局紧急发布高危预警, 不法分子运用深度伪造（Deepfake）技术, 制作出高度逼真的视频, 以此诱导受害者进行大额转账, 单案损失多次突破千万纪录。此类诈骗由于技术门槛低, 同时欺骗性又强, 使得传统验证手段几乎失效, 受害者往往在事后才惊觉自己上当了。
权威数据表明, 在2024年上半年时期, 全国范围内接收到相关案件的数量为327起, 与去年同期相比较起来, 激增幅度达到了415%, 涉案金额累计超过了5.2亿元。典型案例当中, 含有某一家上市公司的财务总监收到了来自“董事长”的视频指令从而进行转账操作, 转账金额为1200万元, 经过专业技术鉴定之后发现该视频是由AI合成的；除此之外, 还存在着多起针对老年人实施的“亲情诈骗”案件, 在这些案件里, 犯罪分子冒充子女身份, 宣称突发疾病急需资金, 每次诈骗的金额竟然高达80万元。
由技术专家李博士进行解析, 开源工具像DeepFaceLab以及Wav2Lip早就让换脸的门槛大幅的降低了, 攻击者只要有目标人物三至五分钟的公开视频, 就能生成时长超过十分钟之逼真伪造内容, 再配合实时语音克隆, 欺骗的性质极强。更为危险的是, 暗网论坛已然出现了“AI诈骗即服务”这样的黑产, 收费低到五百元一次, 还可以提供定制化的诈骗视频制作。
警方强力打击之际, 首个跨省的 AI 诈骗专案在近日宣告侦破结局。浙江警方携手多地的网安部门，捣毁七处犯罪窝点, 抓获二十三名嫌疑人。该犯罪团伙凭借伪造的“政府领导”视频指令, 在半年时间内诈骗企业资金足足达到八千七百万元数量。现场查获的作案工具表明, 他们竟然精心开发自动化脚本用以批量生成诈骗视频, 每日能够产出多达上百出数量。
奇安信发布的《2024 AI安全报告》发出警示, 有89.7%的普通用户没办法识别主流AI换脸视频, 企业员工的识别率也不足65%。专家表明, 生成式AI的普及致使犯罪成本持续降低, 可防御技术的发展却滞后, 从而形成了巨大的安全缺口。在部分案例当中, 受害者反复去观看视频, 却依旧没办法察觉到异常, 这凸显出技术滥用的严峻性。
公安部针对此威胁紧急推出“视频双因子验证”新规, 要求涉及资金操作的视频通话必须包含动态手势验证, 像特定手指动作, 还必须有实时环境问答。国家反诈中心APP同步上线AI换脸检测功能, 用户上传可疑视频能够即时获取风险评估报告, 而其准确率达85%以上。
科技企业加快进行防御体系的布局。腾讯云的“灵鲲”系统, 借助微表情分析以及光影一致性检测, 其识别准确率达到了 92.3%；华为于手机端集成了实时活体检测芯片, 能够有效地阻断伪造视频通话。 在国际方面, 欧盟的《AI法案》已经把深度伪造列为高风险应用, 要求必须强制标注来源, 违规的人最高会面临 2000 万欧元的罚款。
长远来说, 有专家发出呼吁, 要去构建包含“技术 + 法律 + 教育”的三位一体防护网, 由《人工智能安全法》草案明确规定, 禁止未经许可的深度伪造行为, 若有此类行为最高可能会处以五年有期徒刑。对于公众而言, 更需要去提升数字素养, 具体表现为要警惕非常规视频请求, 要定期更新生物信息, 还要使用官方认证通讯工具。在处于AI时代的当下, 保护自己的“数字脸”实际上就是守护财产安全的第一道防线, 千万不要让技术带来的便利变成犯罪的温床。
标签： AI换脸诈骗 Deepfake技术 公安部预警 网络安全 数字防护
还木有评论哦，快来抢沙发吧~