喊停人脸识别,因噎废食还是理性之举?

2020-06-24 11:03:25 来源:安防知识网 作者:汪涵
资讯频道文章B

[摘要] 人脸识别作为人工智能的主流技术方向,正在陆续实现在众多实用场景的应用落地,如果因为种族歧视和隐私问题被彻底叫停未免有些因噎废食。而面对人脸识别的种种争议,如何在隐私和安全便捷之间找到平衡则是人脸识别技术需要直面和突破的问题。

  前段时间,美国白人警察跪压执法造成黑人公民弗洛伊德死亡的事件,引起欧美多个国家和地区“反种族歧视”大规模游行的蔓延。而随着“反种族歧视”情绪的高涨,人脸识别技术因涉嫌种族歧视和隐私侵犯又被推到了风口浪尖,科技巨头IBM、亚马逊以及微软在6月中旬相继宣布将暂停向执法机构提供人脸识别技术服务,集体对人脸识别技术喊停。

  其中,IBM方面表示,坚决反对也不会容忍任何技术来监视大众、种族定性、侵犯人权和自由、以及从事任何和透明度价值观和原则不一致的目的,包括向其他公司提供此项技术。对此,IBM表示将退出人脸识别业务且今后也不会继续研发相关技术。

  随后,亚马逊和微软也相继宣布将暂停为警察提供面部识别技术,以呼吁对有争议的技术进行联邦监管。不过,亚马逊公司也表示,将继续允许打击贩卖人口的组织使用其人脸识别技术。

  科技巨头对人脸识别喊停的主要理由在于,不想让人脸识别技术沦为种族歧视的帮凶。

201904080940448298.jpg

  为什么人脸识别会涉及到种族歧视?

  人脸识别涉嫌种族歧视的观点在欧美国家颇为显性,美国国家标准与技术研究院(NIST)还专门对此做了研究。NIST研究显示,世界上许多顶尖的面部识别算法都存在年龄、种族和民族偏见。在某些情况下,亚裔和非裔美国人被错误识别的概率是白人的 100 倍。

  今年4月初, NIST发布了新报告“人脸识别供应商测试”,特别分析了人脸识别种族歧视产生的原因,其中即包括图像质量的影响、摄影标准及年龄和老龄化几大因素。报告表示人脸识别之所以会触及种族歧视,主要还是因为人脸样本采集的偏差性。

  同时,NIST报告也指出,这些算法中的偏差其实可以通过使用更多样化的训练数据来减少。报告提到亚洲国家开发的人脸识别算法表现更好,在亚洲人和白人之间的错误率差别很小。然而,即使解决了算法偏见,也不能解决面部识别的所有问题,因为这项技术的使用方式没有尊重人们的安全和隐私。

  确实,从当下全球人脸识别技术的应用情况来看,人脸识别在海外国家的原罪是涉嫌种族歧视和隐私侵犯无疑。在国内,尽管人脸识别正大行其道,但是关于人脸识别的争议也间或不断,其中最主要的是便是隐私问题。

  就在几大科技巨头相继喊停人脸识别的同时,国内“人脸识别”第一案正式开庭。一位大学教授,以“保护隐私”为由把一家使用了人脸识别认证系统的动物园告上了法庭。这一案件也再次将大众的目光聚焦到了人脸识别隐私侵犯的问题上。

  人脸识别的隐私漏洞

  纵观人脸识别在国内的使用情况,不无夸张的说,人脸识别已经渗透到了大众生活的方方面面。从日常小区出入口的人脸门禁到商业消费的人脸支付再到金融、政务等各项业务办理过程中的人脸身份认证环节。不知不觉中,人脸识别似乎已经成了大众生活惯用的一部分,而这些还只是人脸识别技术在生活场景中的应用。在安防领域,人脸识别的应用范围更为深入和广泛。

  人脸识别之所以得以快速推广普及,很大一部分原因在于人脸识别带来的超便捷个人身份认证体验。相较于传统的密码、指纹或卡式介质,人脸识别无感知、天然生物密码等特性使得其在身份认证环节具有更高的安全性和便捷性。经过新冠疫情“非接触式”思维的渲染,更加推进了人脸识别应用的普及。

  而人脸识别和个人隐私问题息息相关,则主要表现在目前阶段商用场所人脸识别数据采集的方式、人脸算法训练过程中人脸数据来源以及人脸数据的安全保护等方面。

  清华大学劳东燕教授就曾对目前人脸识别数据收集的方式发表过看法,劳教授指出:尽管生物学数据的收集按规定需要征得被收集人的同意,但在实践中,由于收集过程非接触性、隐蔽性等特点(即可能通过AI等技术直接进行识别,而无需被收集人主动提供),信息收集者可能会主观上忽略或者客观上无法达到法律要求的“知情同意”要求。

  另外一个和人脸隐私相关的环节往往被大众所忽视,即人脸算法的训练环节。现阶段人脸识别技术的进步很大程度上依赖于人脸样本采集的多样性。由于人脸识别应用的场景环境各异,识别分析的目标人群跨年龄、跨性别、跨种族等原因,要保障人脸识别整体的识别准确率,在算法训练时就得保障有丰富多样的人脸样本数据,而这个人脸数据源从何而来也是争议所在。

  最后在人脸数据的安全保护方面,由于现阶段市场的野蛮生长,业内还尚未形成较为完善的风控制度和技术措施,来有效防止存储的用户敏感信息被泄露。

  如何平衡隐私和安全便捷?

  按理来说,一项技术本身其实并无好坏之分,关键是如何使用这项技术?人脸识别技术供应商瑞为科技曾对媒体表示:“其实隐私被侵犯,主要是指线上服务和交易系统中对敏感数据采集、存储、使用以及共享等环节出现的问题。这与人脸识别以及其他生物识别技术无关,属于应用系统问题。”

  当下,人脸识别作为人工智能的主流技术方向,正在陆续实现在众多实用场景的应用落地,如果因为种族歧视和隐私问题被彻底叫停未免有些因噎废食。而面对人脸识别的种种争议,如何在隐私和安全便捷之间找到平衡则是人脸识别技术需要直面和突破的问题。

  在这个问题上,欧美等国家也相继出台了一些预防措施,比如欧盟拟发布草案在未来五年内禁止公共场所使用人脸识别技术。通过该项立法,防止该人脸识别技术被不当使用、侵犯个人的隐私权利,以便找到解决办法和规范该技术的使用行为。抑或是欧盟《通用数据保护条例》GDPR的推出,希望借此最大限度保障公民个人信息安全。再到几大科技巨头相继对人脸识别“喊停”,拟呼吁对人脸识别技术加强联邦管制。

  而国内在人脸识别的技术应用规范方面,尽管措施不及欧美国家强硬和武断,但近年来也在不断的加强和完善。

  2020年4月28日,由公安部检测中心具体承担的GB/T38671-2020《信息安全技术远程人脸识别系统技术要求》正式批准发布。该标准由全国信息安全标准化技术委员会(SAC/TC260)归口管理,将于2020年11月1日正式实施。

  该标准是全国首个使用人脸识别技术进行身份鉴别的网络安全国家标准。从满足个人信息安全保护与信息安全总体要求出发,充分考虑当前人脸识别系统创新发展需求、用户接受度和技术成熟度现状,结合我国当前的信息安全技术发展水平,深入分析ISO、ITU、NIST、FIDO等国外标准化组织制定的生物特征识别相关技术标准内容,使得利用人脸识别系统进行身份验证有标准可循。

  今年“全国两会”期间,全国政协委员、致公党上海市委专职副主委、秘书长马进提交的提案也专门建议我国制定人脸识别技术应用管理办法,提议从6大方面对人脸识别技术应用制定相关的管理办法。包括:

  1、规范人脸识别数据采集、存储;2、加强对人脸识别数据使用的监督;3、明确对人脸识别软硬件进行认证;4、确认人脸识别数据的法律效力;5、对监视系统的应用进行限制以及设置相应罚则严惩违法行为等。

  从标准制定和立法层面来完善国内人脸识别的技术应用管理办法无疑将从整体大方向推进人脸识别技术应用的规范化。而在这个过程中,技术厂商、商家也需要不断强化人脸识别技术及应用设计方面的安全等级。个人用户也不能掉以轻心,需加强人脸等个人隐私信息的安全保护意识。通过政、产、学、研、用等多方角色的共同努力来推进国内人脸识别技术应用的安全建设。

0
[责任编辑:汪琴丽]

《安防知识网》一个服务号 二个订阅号 微信服务全面升级

不得转载声明: 凡文章来源标明“安防知识网”的文章著作权均为本站所有,禁止转载,除非取得了著作权人的书面同意且注明出处。违者本网保留追究相关法律责任的权利。

您可能需要

专栏推荐

阅读推荐

重庆建设国家新一代人工智能创新发展试验区 2020-06-24 10:36  来源:重庆日报|0
美国防部再列“制裁名单”!海康威视回应:毫无依据 2020-06-28 09:22  来源:安防知识网|0