日前，上海发布披露了一种新式的AI 骗局：
走在路上，有人举着正在视频通话的手机凑过来，说屏幕上的银行卡号糊了，看不清，请你帮忙对着镜头念一遍。你想着举手之劳，就念了那几个数字。结果呢？骗子利用AI 同步抓取了你的脸和声音，转头就去网贷平台冒名贷款，钱进了他的口袋，债记在了你的名下。直到催收电话打过来，你才知道自己“被贷款”了。
听着挺吓人的对吧？但先别自己吓自己。上海警方表示，在实际办案中还没有接报过完全符合这种描述的既遂案件。技术专家也说了，单靠一段念数字的视频，想要突破所有网贷平台的风控体系也还是很困难的。
但这个警示视频，却值得我们警醒。我们的脸、声音，在AI 时代，真的越来越不值钱，被复制的门槛比想象中容易得多。
而且，如果只是停留在“对着视频念数字会不会被骗贷”这个问题上，也把这个事儿看浅了。
真正值得行业警觉的，是这件事暴露出来的一个系统性漏洞，那就是，现在主流的数字可信体系，能确认“这是你”，能确认提交的内容没有被篡改，但却没法确认“你是不是真的同意”。
换句话说，人脸识别、声纹验证，甚至是CA 证书，回答的始终是同一个问题——“操作者是不是本人”，并且默认了一个 非常危险的等式：本人=本人同意。
这个等式在线下面对面办理业务的时候，大体上是成立的。可搬到线上、远程的环境里，这就站不住脚了。AI 深度伪造技术可以轻易克隆复制人脸和声音，CA 证书可能被冒领、丢失，短信验证码可能被拦截。人为制造出来的“本人在操作”的假象，系统完全没有能力分辨。屏幕对面的人，究竟是自愿的，还是被蒙蔽了，甚至根本只是一个数字假人？
这就是“身份认证”和“意愿确认”脱节，带来的系统性风险。
对我们普通人来说，这则视频虽然情节可能略有夸张，但它的核心建议还是靠谱的： 不要对着陌生人的镜头随便念数字、做动作、露脸。这倒不是说念了数字立马就被背债，而是你不知道你的脸、你的声音会被什么保存下来，用在什么地方。我们保护自己的生物特征，应该像保护身份证号一样上心。
另外，话说回来，光靠个人小心翼翼是防不住这类问题的，根子还是在银行、网贷平台等机构这边， 不能再把“人脸识别通过”等同于“用户本人同意”了。机构需要构建分层次信任体系，把 CA 认证、人脸识别、笔迹识别、短信验证等技术手段综合起来，进行多维度交叉核验。
监管和制度层面也应该同步跟上，明确相关措施规则。把技术和制度两条腿都补上，才能真正守住安全防线。
来自 “ ITPUB博客 ” ，链接：https://blog.itpub.net/70050250/viewspace-3176730/ ，如需转载，请注明出处，否则将追究法律责任。
