面部识别、深度伪造、隐私和自动化定义的AI 2019

2020-01-07 09:13:13 来源:安防知识网 作者:Kyle Wiggers
资讯频道文章B

[摘要] AI周刊在对2019年的人工智能行业进行总结是归纳了以下四个关键词:面部识别、深度伪装、隐私和自动化。

  回顾刚刚过去的2019年,基于机器学习系统训练算法的人工智能,已然开始渗透至各行各业。

  AI周刊在对2019年的人工智能行业进行总结是归纳了以下四个关键词:面部识别、深度伪装、隐私和自动化。与此同时,AI周刊也对2020年的人工智能行业大发展进行了展望。

  面部识别

  在2019年的新闻报道中,我们可以发现,面部识别技术比其它任何人工智能应用更受瞩目。

  2019年1月份,麻省理工学院的一个科学家团队声称:亚马逊公司的面部识别和分析软件reko在某些种族中的性别识别准确性低于其他面部识别解决方案。具体来看,reko未能在特定场景中确定女性和深色皮肤的面孔的性别,从而错误地将女性的照片分别识别为男性和深色皮肤的女性分别为19%和31%。

  撇开亚马逊的面部识别争议不谈,这项研究很有先见之明地指出了人工智能的种族偏见问题上周美国国家标准与技术研究所(NIST)发表的一项研究发现:在进行一种被称为“一对一”匹配的特定类型的数据库搜索时,不少面部识别系统错误地识别了非裔美国人和亚洲人的面孔,相较于白人,亚裔和非裔的人脸识别错误率要高10到100倍。

  而除了偏见问题之外,人脸识别技术的可扩展性也使得该项技术正在滥用。今年,纽约警察局通过面部识别系统错误将演员伍迪·哈里森识别为嫌疑人;中国通过,面部识别系统用来进行反恐等活动来保障国家公共安全;初创公司AnyVision旗下的面部识别产品也因被用来监视居住在约旦河西岸的巴勒斯坦人而备受关注。

  越来越多的活动人士、学者和立法者呼吁限制或彻底禁止面部识别技术。2019年5月,旧金山禁止警察或市政部门使用面部识别技术;奥克兰在6月也紧随其后,之后伯克利通过了关于面部识别技术的禁令。2019年秋天,美国加州颁布了一项为期三年的禁令:禁止在执法随身相机中使用面部识别技术;以及2018年在美国众议院监督和改革委员会的两次听证会上,美国国会一些最著名的共和党人和民主党人共同提出了关于面部识别的立法改革建议, 2019年商业面部识别隐私法案的出台,要求企业在使用面部识别软件之前必须获得公众许可。

  鉴于面部识别在美国国会、学术界、州议会和国会山等公共论坛上引发的激烈争论,可以说面部识别过去是,将来也将是一个热点话题。

  深度伪造(自我审查和深度造假)

  2019年2月,OpenA打破了学术规范,决定不公开用于训练其最先进的自然语言处理模型GPT-2的语料库,也不公开与之相关的训练代码。OpenAI在一篇证明其决定合理性的博客文章中表示,它担心这些信息可能被用来生成有关特定公司的合成新闻,比如种族主义或性别歧视的文章,以及亚马逊(Amazon)或Yelp等网站上的虚假评论。

20191025854_98145845_xxl.jpg

  OpenAI随后发布了几个更小、更简单的GPT-2版本,并研究了它们的接收情况以及它们训练时使用的数据集。在得出“没有强有力的证据”证明存在误用之后,谷歌于上月发布了完整的模型——该模型对从网上搜集的800万份文本文件进行了训练。

  OpenAI此项决定的批评者认为,该公司夸大了他们的工作将带来的危险,并在不经意间激起了人们对人工智能和机器学习的激烈讨论。除此之外,他们认为OpenAI剥夺了研究人员获得突破性人工智能技术的机会,从而使他们处于不利地位,而且它有效地阻止了研究人员识别GPT-2中的错误或提出潜在的对策。

  尽管批评者的表述不无道理,但OpenAI的担忧并非完全没有根据。在2019年,利用人工智能将现有图像、音频记录或视频中的人物替换成其他人的肖像的深度赝品或媒体数量迅速增加。Deeptrace在6月和7月发现了14,698个网络上的深度造假视频,比去年12月增加了84%。这组数据让人感到不安,不仅因为深度造假赝品可能被用来在选举期间左右公众舆论,或将某人卷入他们没有犯下的罪行当中,还因为它们已经被用来制作色情材料,并骗取公司数亿美元。

  包括Facebook、微软和亚马逊在内的科技巨头已与麻省理工学院和康奈尔大学在内的学术合作伙伴合作,帮助抵抗由人工智能引发的误导性媒体的传播,但OpenAI不愿发布自己的模型,预示着这种深度抵抗也面临着不小的挑战。实际上,益百利预测,到2020年,网络罪犯将利用人工智能技术扰乱商业企业的运营,并在各国之间制造地缘政治混乱。

  隐私

  尽管深度学习和人工智能给人们带来了惠利,但它们还存在一个主要的隐私问题。

  皇家自由伦敦NHS基金会是英国国家医疗服务中心的一个分支机构,在未经患者的同意下,皇家自由伦敦NHS基金会向谷歌旗下的DeepMind提供了160万名患者的数据。谷歌(其与阿森松岛的健康数据共享伙伴关系在11月成为审查的对象)放弃了发布胸部x光扫描的计划,因为担心其中包含个人身份信息;在2019年的夏天,微软悄悄删除了其最大的公开人脸识别数据库MSCeleb,该数据库拥有超过1000万张图像,将近10万人的面部信息。而伴随着微软删除了 MS-Celeb-1M 数据库,另外两个学术单位也删除了它们旗下的类似相关数据库,包括由杜克大学研究人员建造的 Duke MTMC 监控数据库和斯坦福大学的 Brainwash 数据库;而ImageNet,一个常用来训练计算机视觉算法的开源库,被发现在某些时候包含从Google,Flickr和其他地方刮取的亲密行为的描述。

20191126232_64366454_xl.jpg

  此外,包括苹果和谷歌在内的科技巨头也先后被媒体披露,为了改进Siri和谷歌Assistant等助手功能而收集的录音可能被滥用。今年4月,彭博社披露,亚马逊雇佣合同工,为装有alexa的设备上数千小时的音频进行人工注释,这促使该公司推出面向用户的工具,快速删除云存储数据。

  而以上事件的发生都是不合理、有问题的存在。因为在越来越多的情况下,隐私不仅仅是一个哲学问题,并且包含可商业中的利害关系。在这种背景下,州、地方和联邦先后颁布各级法律,旨在使隐私成为合规管理的强制性部分。目前,美国50个州、地区和哥伦比亚特区正在或已经通过了数百项涉及隐私、网络安全和数据泄露的法案。可以说,其中最全面的是大约两年前签署的《加州消费者隐私法》(California Consumer Privacy Act)。这还不包括健康保险可携性和责任法案(HIPAA),该法案要求公司在披露个人健康信息之前必须获得授权。

  而为了保障公民的隐私问题,谷歌以及其他公司也先后发布了TensorFlow Privacy和PySyft等用于机器学习框架(包括TensorFlow和PyTorch)的库,这些库使用差别隐私等技术来提供强大的隐私保障。与此同时,他们还采用了包括联邦学习在内的技术,通过分散的设备或服务器(即人工智能)来训练人工智能。如,同态加密是一种密码学的形式,它支持对使用算法(也称为密文)加密的明文(文件内容)进行计算。在完全管理的服务方面,像亚马逊这样的科技巨头已经开始让他们的产品符合HIPAA这样的规定。

  自动化

  尽管人们对人工智能对其职位所带来的担忧可能被夸大了,但不可否认的是,因人工智能而出现的自动化正在降低行业对劳动力的需求。

  麦肯锡全球研究所2019年早些时候发布的一份报告发现,在人工智能和机器学习带来不利变化的职业中,女性将占主导地位。到2030年,在占GDP 60%以上的10个经济体中,男性占多数的工作岗位中,约有40%的工作岗位将被自动化取代。而在自动化潜力很大的以女性为主的工作岗位中,自动化取代率达到了52%。

  这个观点与英国国家统计局在2019年3月发布的一份报告相符,

  国家统计局预测,服务行业的员工——主要是服务员、零售库存回收人员和初级销售人员——以及农业、汽车和服务行业的员工将受到不同程度的影响。劳工部预测,在2017年占高风险工作70.2%的女性将承受即将到来的劳动力市场变化的冲击。

  这些观点与英国国家统计局(ONS) 2019年3月的一份报告相一致,英国10%的劳动力(约150万工人)从事着 “高风险”的自动化工作。英国国家统计局预测,服务行业的员工——主要是服务员、零售库存回收人员和初级销售人员以及农业、汽车和服务行业的员工将受到不同程度的影响,他们认为,在2017年占高风险工作70.2%的女性将承受即将到来的劳动力市场变化的冲击。

  不管人们从事新的工作还是在目前的领域获得新的技能,预计到2030年,数千万工人将不得不进行某种形式的职业转型。Forrester发现,自动化可能会在未来几个月里代替10%的美国工作岗位。世界经济论坛、普华永道、麦肯锡全球研究院和高德纳都曾预测,到2025年,人工智能可能会代替多达7500万个工作岗位。

  人工智能行业的未来

  人工智能发展面临着艰巨的挑战:在很大程度上,面部识别依旧是机器学习的一种有效的且不受到监管的应用,且这种应用正在不断加剧;深度伪装给科技公司、学术机构以及普通公众带来了沉重的压力;人工智能中隐私问题的最终解决方案是难以捉摸的;不管工人们是否重新调整工作,自动化预计将影响数百万人的生计。

20191009354_86582627_xxl.jpg

  2020年人工智能行业将迎来怎样的变化,谁也无法给出答案。但对于人工智能带来的所有问题,都在不断发生变化。2019年,人工智能在蛋白质折叠方面达到了最先进的水平,这可能为新的疗法和药物铺平道路;机器学习的各种实现被用来应对全球气候变化;人工智能允许有语言和听力障碍的人使用以前无法使用的产品……

  人工智能是一把双刃剑,与任何技术的发展一样,人工智能要发展,总得牺牲某些利益为代价。

      (本文编译自外网,内容尚有增减)


0
[责任编辑:曾凌霄]

《安防知识网》一个服务号 二个订阅号 微信服务全面升级

不得转载声明: 凡文章来源标明“安防知识网”的文章著作权均为本站所有,禁止转载,除非取得了著作权人的书面同意且注明出处。违者本网保留追究相关法律责任的权利。

您可能需要

专栏推荐

阅读推荐

北京朝阳区今年实现路侧停车高点视频监控全覆盖 2020-01-07 09:12  来源:安防知识网|0