支持单位: 全国警用装备标准化技术委员会 , 公安部安全与警用电子产品质量检测中心 , 公安部特种警用装备质量监督检验中心 , 国家安全防范报警系统产品质量监督检验中心
jiangbei
历届评选

技术手段能否保护我们的隐私

2019-04-01 10:18:21  作者 : 皎晗  来源 : 腾讯科技


        警用装备网讯: 面部识别是一项功能强大的技术,也是一个欣欣向荣的行业。如今,数十家初创企业和科技巨头正在向酒店、零售店、甚至学校和夏令营推销面部识别服务。相比于五年前,新算法识别各种人脸的精确度更高,因而相关业务正在蓬勃发展。为了改进这些算法,公司往往会对算法进行包括数十亿张人脸数据的训练,通常也不需要征得任何人的同意。事实上,你自己的面孔很有可能是面部识别公司所使用“训练集”的一部分,要么就是公司客户数据库中的组成部分。



  消费者可能会对一些公司用于捕捉他们面部表情的策略感到惊讶。在至少三个已知的案例中,公司是通过用户手机上的照片应用程序获取了数百万张面部图片。目前,面部识别软件几乎没有任何法律限制,这意味着消费者根本无法阻止公司以各种方式使用他们的面部数据。



  2018年,一部摄像机收集到了乘客们匆匆经过华盛顿特区附近机场捷运线时的各种表情。实际上捷运线和乘客都不是真实存在的,整个系统只是美国国家科学技术研究院(NIST)展示如何在“公开环境”中收集人脸的一个场景。这些人脸将成为美国国家标准与技术研究院(NIST)反复举办的竞赛一部分,邀请全球各地的公司来测试他们的面部识别软件。



  在机场捷运线的演示中,志愿者们允许该机构使用他们的面部数据。这也是面部识别技术早期的运行模式——学术研究机构煞费苦心地说服人们允许他们将各种人脸导入数据集。如今,各个公司已经走在了面部识别的技术前沿,他们不太可能要求某人明确同意自己的面孔被使用,他们压根就不需要所谓的许可。



  市场研究公司Market Research Future指出,包括Face++和Kairos等行业领导者在内的诸多公司,正在面部识别软件市场展开激烈竞争。这个市场每年增长20%,预计2022年将达到每年90亿美元的规模。他们的商业模式包括向越来越多的客户发放软件许可,而客户将其面部识别软件应用于各种场景。



  在开发最优软件的竞赛中,胜出者是那些能够在不产生所谓假阳性的情况下,以更高精确度识别出人脸的公司。与人工智能的其他领域一样,开发更好的面部识别算法意味着要收集大量数据进行训练。虽然公司可以使用政府和大学编制的经批准数据集,比如说耶鲁大学开发的人脸数据库,但这些训练集规模相对较小,包含的人脸不超过几千张而已。



  这些官方数据集还有其他限制。其中的许多人脸数据集缺乏种族多样性,或者无法描绘出能够改变现实世界中人脸显现方式的条件,比如说阴影、帽子或妆容。为了开发能够在“公开环境”中发现特定人脸的面部识别技术,公司往往需要更多的图像。



  “几百张是不够的,几千张也是不够的。你需要数以百万计的图像。如果你的训练数据集中没有眼镜男或有色人种的面部图像,你就不会得到准确的识别结果。”加利福尼亚面部识别公司首席执行官彼得·特雷普(Peter Trepp)表示。该公司主要帮助零售商筛选潜入商店的可疑人员。



  提供面部数据的应用程序



  公司可以从哪里获得数以百万计的面部图像来训练它的软件?其中一个来源是警方的面部照片数据库,这些照片可以从政府机构公开获得,也可以从私营公司那里买到。例如,总部位于加利福尼亚的Vigilant Solutions公司就能够提供1500万张人脸数据集,该公司将这些图像当作其面部识别“解决方案”的一部分。



  然而,一些初创公司发现了一个更好的人脸来源:个人相册应用程序。这些应用程序可以编辑存储在手机上的照片,通常包含同一个人在各种姿势和场景下的多张照片。这对于面部识别公司来说是一个丰富的训练数据来源。



  Ever AI 首席执行官道格·阿利(Doug Aley)称,“我们的客户甚至需要识别出数千种不同场景中的同一个人。即便你戴着帽子站在阴影里,也要叫出你的名字。”Ever AI是旧金山的一家面部识别初创公司,其于2012年以EverRoll的名称成立,起初推出了一款帮助消费者管理手机照片的同名应用程序。



  Ever AI已经从Khosla Ventures以及其他硅谷风投公司那里筹集了2900万美元。该公司参加了NIST近期举办的面部识别竞赛,在“脸部特写”(Mugshots)挑战中排名第二,并在“公开环境人脸”(Faces in the Wild)挑战中排名第三。阿利将这一成绩归功于公司庞大的照片数据库,据估计该数据库中存储有130亿张图片。



  当Ever AI还只是一款照片应用时,其激进的营销做法就引发了业界争议,并导致苹果在2016年暂时禁止EverRoll进入其苹果应用商店。值得注意的是,该应用诱导用户向所有手机联系人发送推广链接,这一策略在硅谷被称为“增长黑客”(growth hacking)。用户还指责EverRoll吞噬了他们的数据。



  德克萨斯州肖像工作室老板格雷格·米勒(Greg Miller)在2015年的一篇Facebook评论中写道:“它做的第一件事就是收集你所有的电话号码,然后立即给所有人发信息……然后就开始把你所有的照片都放到云端。”



  四年后米勒沮丧地发现,这个曾经被称为EverRoll的应用程序仍然保存着他的照片,现在成了一家面部识别公司。



  米勒在接受采访时表示:“不,我根本没有意识到这一点,我根本没有不同意。”“所有这些信息被追踪是一个真正的问题。再也没有什么隐私了,这让我非常害怕。”



  然而阿利表示,该公司不会分享人脸数据库中有关个人的识别信息,只使用这些照片训练软件。他补充说,Ever AI类似于一个人们可以选择退出的社交媒体网络。阿利还否认了Ever AI从公司成立之初就打算成为一家面部识别公司的说法,称放弃这款现已关闭的照片应用程序是一个商业决策。目前,Ever AI的客户正将其面部识别软件应用于各种活动,包括企业ID管理、零售、电信和执法。



  Ever AI并不是唯一一家曾经提供消费者照片应用的面部识别公司。另一个例子是位于旧金山的初创公司Orbeus,其在2016年被亚马逊悄然收购,该公司曾提供一款名为PhotoTime的照片管理软件。



  据Orbeus的一名老员工说,这家初创公司所拥有的人工智能技术,以及公共场合下的大量人像照片,使其成为颇具吸引力的收购目标。



  “亚马逊正在寻找这种能力。他们买下了所有东西,然后关闭了这款应用。”这名员工以保密协议为由,拒绝透露姓名。



  如今这款名为PhotoTime的应用程序已不复存在,不过亚马逊仍在继续推销Orbeus的面部识别软件Rekognition。



  亚马逊拒绝透露Orbeus的照片应用程序如何被用于训练其面部识别软件,只是说自己收集数据用于人工智能项目,其中也包括各种来源的面部识别数据。亚马逊补充称,它不使用客户的Prime照片服务来训练算法。



  另一家使用消费者照片应用训练面部识别算法的公司是Real Networks。这家公司总部位于西雅图,曾以其上世纪90年代的在线视频播放器而闻名,如今专门开发能够识别学校里孩子面孔的软件。与此同时,该公司还面向家庭用户推出了一款名为RealTimes的智能手机应用。一位批评人士表示,这款应用是公司获取面部数据的借口。



  “这个应用程序能够让用户为自己的照片制作视频幻灯片。想象一下,妈妈会把孩子照片的视频幻灯片发给奶奶,这些图像再被用来训练识别孩子的脸。这太可怕了。”乔治敦大学(Georgetown University)教授克莱尔·加维(Clare Garvie)如是指出。他曾经发表了一篇有关面部识别技术的有影响力报告。



  Real Networks证实,这款照片应用程序有助于改善其面部识别工具,但补充说它也使用了额外的数据源。



  在所有公司使用照片应用程序收集面部数据进行训练的案例中,相应公司都没有得到消费者的明确许可。相反,这些公司似乎通过应用的服务条款从法律层面获得了用户的同意。



  然而,这已经比其他一些面部识别公司所做的好多了。据NIST面部识别竞赛负责人帕特里克·格罗瑟(Patrick Grother)说,面部识别公司编写程序从SmugMug或Tumblr等网站上“抓取”图片很常见。在这些情况下,甚至连得到那些最终出现在训练集的人同意的所谓借口都没有。



  美国全国广播公司(NBC)最近的一篇新闻报道强调了这种“自助”做法。该报道详细描述了IBM如何从照片共享网站Flickr上抓取了100多万张人脸图像,用于公司的人工智能研究。而IBM研究部门人工智能技术主管约翰·史密斯(John Smith)告诉NBC,该公司致力于“保护个人隐私”,并会与那些寻求从数据集中删除数据的人合作。



  所有这些都引发了人们的疑问:公司应该采取哪些措施来保护他们所收集的面部数据,政府是否应该提供更多的监督。随着面部识别技术的应用范围日趋广泛,开始为大大小小的公司的业务提供动力,这些问题的解决只会变得更加紧迫。



  从商店到学校



  面部识别软件并不鲜见。这种技术的原始版本早在20世纪80年代就已经存在,当时美国数学家开始将人脸定义为一系列数值,并使用概率模型来进行匹配。佛罗里达州坦帕市的安保人员在2001年的超级碗比赛上使用了这种技术,而赌场也已经使用了很多年。但在最近几年,情况发生了变化。



  NIST的格罗瑟说:“面部识别正在经历一场革命。”他指出在那些转瞬即逝或画质差人像上的表现最为明显,“基础技术已经发生了变化。旧的技术已经被新一代算法所取代,它们非常有效。”



  面部识别技术的这场革命得益于两个因素,其也正在更广泛地改变人工智能领域。首先是新兴的深度学习科学,这是一种类似人脑的模式识别系统。第二个是前所未有的海量数据,可以在云计算的帮助下以更低成本进行存储和解析。



  毫无疑问,最先充分利用这些新发展的公司是谷歌和Facebook。2014年,社交网站Facebook推出了一个名为“DeepFace”的程序,该程序可以识别两张脸是否属于同一个人,准确率为97.25%,与人类在同一测试中的得分相当。一年后,谷歌通过其FaceNet程序将识别准确率一举提高到100%。



  如今,谷歌、Facebook和微软等科技巨头在人脸识别领域处于领先地位,这在很大程度上是因为它们可以访问大量的人脸数据库。尽管如此,越来越多初创公司的面部识别准确度也在不断提高,因为他们坚持在不断增长的面部软件市场中寻找利基市场。



  仅在美国,就有十几家诸如Kairos和FaceFirst这样的初创公司。市场研究公司PitchBook的数据显示,硅谷一直在拥抱这个行业。该公司披露,过去几年发生了数十宗投资交易,过去三年的平均总投资为7,870万美元。以硅谷的标准来看,这并不是一个令人瞠目结舌的数字,但它反映了风险投资家的一个重大赌注,即至少有几家面部识别初创公司将迅速成长为大公司。



  面部识别公司的商业模式仍在不断涌现。目前大多数公司的主要业务都是向组织授权软件。Crunchbase的数据显示,像Ever AI和FaceFirst这样的初创公司年营收普遍相对较低,从200万美元到800万美元不等。与此同时,亚马逊和其他科技巨头并没有透露他们有多少营收来自面部识别软件授权。



  多年来,最热衷于面部识别的付费客户一直是执法机构。然而最近,包括沃尔玛在内的更多公司正在使用该软件来识别和了解进入他们实体店的消费者。



  FaceFirst的客户肯定就是这种情况。这家总部位于加利福尼亚的初创公司向数百家零售商销售面部识别软件,其中包括一元店和药店。该公司首席执行官特雷普说,他的大部分客户都在使用这项技术识别筛查进入商店的可疑人员,但越来越多的零售商正在测试这项技术的其他用途,比如说识别VIP客户或自家员工。



  与此同时,亚马逊似乎在寻找面部识别商业模式方面撒下了一张大网。据报道,这家零售巨头除了向警方推销产品外,还在与酒店合作加快客户入住手续的办理。



  “来自世界各地的公司来到亚马逊说,‘这就是我们希望你们做的’。然后你会发现那才是你的最佳选择,是整个市场最感兴趣的地方。”在亚马逊收购面部识别公司Orbeus时加入其中的一位匿名人士表示。



  就亚马逊而言,这些努力并非没有争议。去年7月,一家非营利组织对其软件进行测试,将每一位国会议员的脸与一个被判重罪的人像数据库进行比对。测试结果出现了28例假阳性,其中大多数国会议员为有色人种。作为回应,该组织呼吁禁止执法部门使用面部识别技术。与此同时,亚马逊自家员工也向该公司施压,要求其证明向警察部门、美国移民和海关执法部门出售软件的正当性。



  包括纽约州民主党众议员杰罗德·纳德勒(Jerrold Nadler)和俄勒冈州民主党参议员罗恩·怀登(Ron Wyden)在内的一些国会议员已经要求政府问责局调查面部识别软件的使用情况。包括微软总裁布拉德·史密斯(Brad Smith)在内的大企业领导人也对这项技术的应用感到不安。他在去年12月呼吁政府进行监管。



  尽管人们的担忧不断加剧,随着企业找到新的应用场景来销售面部识别技术,其涉及范围正在扩大。比如家庭照片应用程序开发商Real Networks正在向全美各地的中小学校学校免费提供其软件。该公司表示,现在有数百所学校正在使用它。在接受采访时,该公司首席执行官罗勃·格拉泽 (Rob Glaser)表示,他发起这一倡议的初衷是为了解决有关学校安全和枪支管控的争议问题。目前,Real Networks的网站正在大力宣传其技术,称其可以让活动主持人“认出每一位粉丝、客户、员工或客人”。



  Real Networks并不是唯一一家专注于儿童面部识别产品的公司。德克萨斯州一家名为Waldo的创业公司正在向数百所学校、少儿体育联盟和夏令营提供这项技术。在实际操作中,这涉及使用Waldo的软件扫描学校摄像机或官方摄影师拍摄的图像,然后将孩子的脸与父母提供的图像数据库进行匹配。那些不想参加的家长可以选择退出。



  据该公司首席执行官罗德尼o赖斯(Rodney Rice)介绍,学校每年都会拍摄数万张照片,其中只有少数几张照片会出现在年鉴上。他说,面部识别是一种有效的方式,可以把剩余的照片分发给那些想要留下回忆的人。



  赖斯说:“你还可以把孩子在学校的照片发给祖父母。”该服务目前已经在美国30多个州开展业务。



  Waldo和FaceFirst的发展现状表明,企业正在帮助实现面部识别的普及。不久前,面部识别技术还只是科幻小说中的内容。随着技术扩展到更多领域,越来越多的公司将收集我们的人脸图像,要么用于训练他们的算法,要么用于识别客户和罪犯。当然与之同时,出现错误或误用的可能性也在不断增加。



  面部识别的未来



  在科幻剧《黑镜》(Black Mirror)中,一位焦虑的母亲对女儿的交往对象忧心忡忡。为了确认他的身份,她将这名男子的面部照片上传到消费者面部识别服务上。软件会立即显示他的名字和工作地点,然后这位母亲就去找他了。



  这种情况一度牵强附会,如今却触手可及。尽管人们对面部识别一直存在担忧,但公司甚至个人对面部识别的使用却带来了更多隐私方面的风险。



  随着越来越多的公司开始销售面部识别技术,随着我们的面部图像出现在越来越多的数据库中,该软件可能会受到偷窥者和跟踪者的更多注意。商人和房东也可以用它来识别自认为不受欢迎的人,并悄悄停止提供住房或服务。



  一家非营利组织的政策分析师杰伊o斯坦利(Jay Stanley)表示:“任何拥有摄像机和人流量大地方的人,都可以开始编译一个图像数据库,然后使用分析软件来查看某人是否与所编译的图像匹配。”



  此外还有黑客入侵的风险。网络安全公司Gemini Advisors安全专家安德烈巴里赛维奇(Andrei Barysevich)说,他发现印度国家生物识别数据库的个人资料被盗,在暗网的网站上公开出售。他还没有发现有美国的人脸数据库被出售,但他补充说:“这只是时间问题。如果发生这样的事情,从酒店或零售商处窃取顾客的面部数据可能会帮助犯罪分子实施欺诈或身份盗窃。”



  随着这项技术在缺乏监管的情况下传播开来,限制其滥用的最大希望可能在于软件制造商自己。在接受采访时,面部识别初创公司的首席执行官们都表示,他们非常关注隐私风险。



  首席执行官们还提出了两种方法,可以限制市场滥用他们的技术。第一种是与软件购买者紧密合作,以确保客户不会随意部署软件。例如,Ever AI的阿利表示,其公司所遵循的标准比亚马逊更高。



  在回答如何监管技术滥用的问题时,亚马逊提供了一份由亚马逊云服务Amazon Web Services海外人工智能服务负责人马特·伍德(Matt Wood)此前发表的声明,指出该公司禁止非法或有害他人的活动。



  面部识别公司高管提到的另一个可能隐私保护措施是使用技术手段,确保数据库中的人脸信息不会被黑客入侵。



  Waldo首席执行官赖斯说,人脸数据是以哈希加密的形式存储。这意味着,即使发生数据泄露,个人隐私也不会受到损害,因为黑客无法使用哈希来重建人脸及其身份信息。这一点得到了其他人的赞同。



  赖斯还担心,立法人员制定使用面部技术的规则可能弊大于利。他说:“不分良莠全盘否定,制定一系列疯狂的规定,这将是一个笑话。”



  与此同时,一些开发面部识别软件的公司正在使用新技术,可能会减少算法训练对大量人脸数据的需求。迈阿密面部识别初创公司Kairos就是这样一个例子。凯罗斯的客户中有一家大型连锁酒店。据首席安全官斯蒂芬·摩尔(Stephen Moore)称,Kairos正在开发“合成”面部数据,以生成各种面部表情和光照条件。他说,这些“人造脸”意味着公司可以依靠更少的真实面孔来开发产品。



  无论对面部识别客户的监管、亦或完善的数据安全,甚至综合性的训练工具都可以减轻一些与公司使用我们面部信息有关的隐私担忧。与此同时,FaceFirst的特雷普认为,随着我们对这项技术越来越熟悉,对它的担忧将会逐渐减少。他甚至认为,科幻电影《少数派报告》中的面部识别情景将开始变得司空见惯。



  “千禧一代更愿意交出自己的脸。那个(少数派报告)世界正在到来,”他表示。“如果处理得当,我认为人们会接纳它、喜欢它,这将是一个积极的体验。这不会让人觉得毛骨悚然。”



  也有人则不那么乐观。尽管围绕这项技术的争议越来越大,但目前几乎没有任何法律来限制面部识别的使用。只有伊利诺斯州、德克萨斯州和华盛顿州例外,这三个州在使用人脸图像之前需要征得一定程度的同意。而这些法律并没有经过真正的检验,其中只有伊利诺斯州是个例外,消费者可以通过提起诉讼来行使这项权利。



  目前,伊利诺斯州相关法律涉及一宗Facebook的高调上诉案件。该案件中Facebook声称获取人脸图像的法律限制并不应该延伸到数字扫描。2017年Facebook和谷歌进行了一次不成功的游说活动,试图说服伊利诺伊州议员修改该法。今年1月底,伊利诺伊州最高法院裁定,如果消费者就未经授权使用他们信息的生物识别技术提起诉讼,不必出示自己受到伤害的证明,这让这项法律的支持者更为积极。



  其他州也在考虑立法问题。但在联邦层面的关注甚少。然而,本月参议员布莱恩·沙茨(Brian Schatz)和罗伊·布朗特(Roy Blount)提出了一项方案,要求公司在公共场所使用面部识别技术,或者与第三方共享人脸数据之前必须获得许可。



  乔治敦大学的研究人员加尔维也赞成用法律来监管这项技术。她说,“面部识别面临的一个挑战是,由于训练数据库的存在,它的普及速度快得令人难以置信。我们的脸被采集的次数太多了。”她说。“长期以来,关于指纹的采集方式和采集时间都有规定,但与之不同的是,面部识别技术没有规定。”




  新闻稿件欢迎直接联系:QQ 34004818 微信公众号:cpsjyzb

我要评论

表情 验证码 评论

0 条评论

  • 还没有人评论过,赶快抢沙发吧!