加入收藏
加关注
登录
注册
微警用
这项技术让人脸识别技术不被滥用
2020-07-27 14:50:25 作者 : Simon 来源 : 综合警用装备网讯： 近年来，人脸识别技术取得了飞速的发展，在多个领域取得了显着的成果，特别是在警务领域，人脸识别技术的运用，帮助公安民警抓捕到一个又一个漏网之余，有力震慑了犯罪分子。
但是，一条黑色的产业链也由此而生。有报道显示，一些电商平台正以0.5元一份出售匹配了身份信息的人脸数据，与此同时，帮助不法分子将照片活化的工具和教程也仅仅售卖35元。在一些QQ群里，3元钱就能买到用户的详细身份信息和人脸照片。貌似高大上的人脸识别，正暴露出越来越多的BUG。
最新披露的案例显示，冒用人脸骗过验证并非难事。只要有一张对应着身份信息的照片，辅以“照片活化”的工具和教程，就可以骗过不少人脸验证系统。真正可怕的一点在于，有关的“人脸活化软件”使用门槛越来越低，堪称是傻瓜式操作。这意味着但凡存在主观恶意，稍加钻研之后几乎人人都可以冒用他人人脸……从某种意义上说，这已然印证了一种技术路径、应用生态的全面崩塌，这是系统性风险，而非个别的、偶然的“缺陷”。
相比于身份证号、消费记录、信贷流水等类型的个人信息，“人脸信息”无疑要敏感得多，其泄露的后果也要严重许多。人脸被冒用，支付、网贷、门禁等，完全处于不设防的裸奔状态。理论上，莫名其妙背上一笔贷款、陌生人悄无声息闯入家门都是可能之事。人脸信息验证，不同于密码验证等方式，前者的“生物特征数据”具有固定性、永久性，改密码容易，要“换脸”难于登天。一旦人脸信息丢失，将终身置于不确定风险之中。
底层技术太落后，应用铺开推广太快，目前所谓“人脸识别”客观上已经成为潜在高危系统。
如今，已经有人认识到这个缺陷，开始为照片穿上“隐身衣”,帮助人们保护照片隐私数据。比如，来自芝加哥大学的最新研究Fawkes，只是通过算法给照片加上一点肉眼看不出来的修改，就能让你的脸成功“隐形得以100%骗过来自微软、亚马逊、旷视等等这些全球最先进的人脸识别模型！如此一来，即使你在网络上的照片被非法抓取，用这些数据训练出来的人脸模型，也无法真正成功识别你的脸。
其实，对于深度神经网络而言，一些带有特定标签的微小扰动，就能够改变模型的「认知」。比如，在图像里加上一点噪声，熊猫就变成了长臂猿。
Fawkes就是利用了这样的特性。
用 x 指代原始图片，xT为另一种类型/其他人脸照片，φ 则为人脸识别模型的特征提取器。
具体而言，Fawkes是这样设计的：
第一步：选择目标类型 T
指定用户 U，Fawkes的输入为用户 U 的照片集合，记为 XU。
从一个包含有许多特定分类标签的公开人脸数据集中，随机选取 K 个候选目标类型机器图像。
使用特征提取器 φ 计算每个类 k=1…K 的特征空间的中心点，记为 Ck。
而后，Fawkes会在 K 个候选集合中，选取特征表示中心点与 XU 中所有图像的特征表示差异最大的类，作为目标类型 T。
第二步：计算每张图像的「隐身衣」
随机选取一幅 T 中的图像，为 x 计算出「隐身衣」δ(x, xT) ，并按照公式进行优化。
其中 |δ(x, xT)| < ρ。
研究人员采用DDSIM（Structural Dis-Similarity Index）方法。在此基础上进行隐身衣的生成，能保证隐身后的图像与原图在视觉效果上高度一致。
实验结果表明，无论人脸识别模型被训练得多么刁钻，Fawkes都能提供95％以上有效防护率，保证用户的脸不被识别。
即使有一些不小心泄露的未遮挡照片被加入人脸识别模型的训练集，通过进一步的扩展设计，Fawkes也可以提供80%以上的防识别成功率。
在Microsoft Azure Face API、Amazon Rekognition和旷视Face Search API这几个最先进的人脸识别服务面前，Fawkes的「隐身」效果则达到了100%。
目前，Fawkes已开源，Mac、Windows和Linux都可以使用。
新闻稿件欢迎直接联系：QQ 34004818 微信公众号：cpsjyzb
我要评论
0 条评论
- 还没有人评论过，赶快抢沙发吧！
