面部识别技术面临关键转折点：伦理与应用的平衡挑战

来源&＃xff1a;雷锋网

摘要&＃xff1a;向左走&＃xff0c;还是向右走&＃xff1f;

近日&＃xff0c;面部识别技术又遭遇“突发事件”。本周二&＃xff0c;由90个倡议团体组成的小组给三巨头AAM&＃xff08;亚马逊、谷歌、微软&＃xff09;写信&＃xff0c;要求三家公司承诺不向政府出售面部识别技术。其中&＃xff0c;这些团体中包括了美国公民自由联盟ACLU、难民移民教育和法律服务中心RAICES、电子前沿基金会EFF等重要组织。

这封信一经公布&＃xff0c;给予三家巨头公司非常大的社会舆论压力。三家公司都是面部识别技术系统领域的佼佼者&＃xff0c;在该领域倾注了大量精力与努力。美国加利福尼亚州公民自由联盟ACLU主任Nicole Ozer说&＃xff0c;“我们正在用人脸识别技术监控交通路口&＃xff0c;这些公司现在所作出的选择&＃xff0c;将会决定我们的下一代时时生活在政府的监控之中。比如&＃xff0c;是否参加了游行抗议活动&＃xff0c;监控礼拜场所&＃xff0c;甚至日常生活。”

1月18日早间&＃xff0c;据彭博社消息&＃xff0c;亚马逊公司激进派股东&＃xff0c;就亚马逊向政府机构兜售面部识别软件这一问题提交决议&＃xff0c;建议停止销售行为&＃xff0c;直到该项技术被认定不会对公民权益产生威胁。该项决议将在2019年晚些时候&＃xff0c;在亚马逊年度大会上进行表决。非盈利机构Open MIC董事Michael Connor表示&＃xff0c;亚马逊向政府出售Rekognition&＃xff0c;将自身和股东置于风险境地而不顾。ACLU则认为&＃xff0c;面部识别技术很容易将深色皮肤的人种进行误判。

十字路口

事实上&＃xff0c;这绝对不是ACLU等团体的“小题大做”&＃xff0c;2018年12月&＃xff0c;美国特工处公布了一项关于在白宫周围部署面部识别监控测试系统的计划&＃xff0c;其目的在于确定可能对总统构成威胁的“目标嫌疑人”。据雷锋网了解&＃xff0c;该文件于2018年11月底公布&＃xff0c;文件显示&＃xff0c;面部识别系统将会对在白宫公共区域录制的闭路视频片段与图像数据库进行对比&＃xff0c;以监控、跟踪员工为特色。

该测试已于2018年11月19日启动&＃xff0c;于2019年8月30日结束。系统运行时&＃xff0c;面部匹配的镜头图像将会被保存&＃xff0c;然后由人工审核人员确认并进行删除工作。该文件承认对于不知情的访客&＃xff0c;运行此面部识别技术时可能具有侵略性。同时&＃xff0c;它指出整个白宫已经成为一个“高度监控化的区域”&＃xff0c;平民可以选择回避该敏感区域。当时&＃xff0c;ACLU公开表示&＃xff0c;虽然白宫区域的监控&＃xff0c;看似应用范围狭窄&＃xff0c;但它打开了一个潘多拉盒子。即在公共场所对普通平民大众进行毫无理由的审查&＃xff0c;跨越了隐私保护的边界线。

目前&＃xff0c;美国国土安全部门&＃xff08;美国特工处在其中参与&＃xff09;已经将面部识别技术用于扫描国内、国际航班上的乘客。该计划可能将在未来几年覆盖到美国境内更多的机场。与此同时&＃xff0c;美国一部分公安机构利用亚马逊的面部识别工具Rekognition&＃xff0c;实时地扫描视频镜头中的图像。例如&＃xff0c;华盛顿警务室&＃xff0c;奥兰多市作为试点&＃xff0c;近期进行了Rekognition第二次测试。

今年1月3日&＃xff0c;Nextgov披露美国联邦调查局正在试用亚马逊面部匹配软件Rekognition&＃xff0c;用于反恐调查。有消息称&＃xff0c;2018年夏天&＃xff0c;亚马逊就向移民和海关执法人员提供了Rekognition软件。亚马逊现为美国政府最重要的云技术AWS提供商&＃xff0c;中央情报局、国防部都是其客户。但其面部识别软件在政府以及社会公共部门使用的详细情况并不被外界所知。

面部识别技术受到了来自民间团体、社会舆论&＃xff0c;以及监管、立法机构的激烈反应&＃xff0c;美国立法委员多次致信亚马逊&＃xff0c;要求提供关于亚马逊Rekognition的更多信息。信中提到&＃xff0c;“非常担忧&＃xff0c;该产品存在严重的准确性问题&＃xff0c;给有色人种带来打破平衡的精神负担&＃xff0c;并扼杀美国人在公众场合行使第一修正法案中的权利。”一方面&＃xff0c;面部识别技术巨头加紧布局、侵入社会各个领域的应用、机构中。另一方面&＃xff0c;巨头内部、巨头之间对面部识别技术的态度&＃xff0c;也颇为犹豫、暧昧&＃xff0c;矛盾重重。

近期&＃xff0c;谷歌、微软承认涉及面部识别服务存在的风险&＃xff0c;以及被别有用心者滥用和监视的可能性。特别是&＃xff0c;去年12月&＃xff0c;谷歌宣布在该技术漏洞不能被有效制止之前&＃xff0c;将不会对外出售Vision API。微软总裁布拉德·史密斯Brad Smith提出了一些保护性措施&＃xff0c;以防止其被滥用。包括国会通过法律限制技术被滥用&＃xff0c;具体而言&＃xff0c;例如&＃xff0c;减少偏见&＃xff0c;必须通过法院的允许才可以进行个人跟踪。

去年年底&＃xff0c;微软总裁布拉德·史密斯Brad Smith在布鲁金斯学会的演讲中表示了担忧&＃xff1a;

我们认为&＃xff0c;2019年政府必须开始通过法律来规范这项技术。面部识别技术已经从充满邪恶的盒子中出现。除非我们采取行动&＃xff0c;否则五年之后&＃xff0c;当我们觉醒过来。将会发现面部识别服务加剧了社会负面问题的传播&＃xff0c;到那时&＃xff0c;这些挑战将会变得更加困难。

我们并不认为企业可以通过商业竞争&＃xff0c;更好地服务于世界。科技公司被迫在社会责任与市场成功之间作出选择。防止恶性竞争的唯一方法是建立一个有效健康的市场责任制平台。坚实地要求企业确保该项技术开发和使用受到法律的制约。

相比之下&＃xff0c;微软CEO萨提·亚纳德拉Satya Nadella表达地更为直接&＃xff0c;“一些技术一旦遭到滥用&＃xff0c;将对社会造成很大的危害&＃xff0c;政府应该对其进行监管”&＃xff0c;“面部识别技术太可怕了&＃xff0c;绝对是一场彻头彻尾的不良竞争”&＃xff0c;“以竞争的名义&＃xff0c;做任何没有界限的交易&＃xff0c;对行业或者整个社会都不会带来好的结果。”这番话语既指向了自身&＃xff0c;也对准了其竞争对手亚马逊&＃xff0c;表达了对Rekognition的强烈不满。

事出有因

人脸识别为何引起如此大的争议&＃xff1f;首先&＃xff0c;涉及准确率的问题&＃xff0c;面部识别系统可能出现重大的错误。去年的一次测试中&＃xff0c;系统错误地将28名国会议员与数据库中的抢劫犯匹配成功。尽管后期被人工纠正&＃xff0c;但当工具范围扩大&＃xff0c;在一定程度上&＃xff0c;导致一些人在短期内被当作通缉犯。

特别是&＃xff0c;辨别有色人种时&＃xff0c;容易产生较大的误差。背后的原因在于&＃xff0c;不同人种采用的数据模型、算法是不同的&＃xff0c;需要分开部署。《纽约时报》曾经报道&＃xff0c;麻省理工学院媒体实验室对微软、IBM、旷视科技人脸识别系统的试验研究。结果显示在有色人种中&＃xff0c;三者辨别非白种人的错误率高达20%&＃xff0d;30%。从而进一步加剧社会种族歧视和偏见等问题。

其次&＃xff0c;从隐私的角度看&＃xff0c;面部识别技术涉嫌侵犯个人隐私权。这种技术的危害在于&＃xff0c;很容易在未经许可的情况下&＃xff0c;被广泛的滥用而不被普通人所察觉&＃xff0c;个人隐私无所遁形。更为重要的是&＃xff0c;一旦面部识别技术被用于军事&＃xff0c;将会带给社会带来毁灭性的打击。

2018年4月&＃xff0c;谷歌与军方合作的Maven杀人机器人项目持续发酵&＃xff0c;3千多名谷歌员工抗议&＃xff0c;数十名员工请辞。国际机器人武器控制委员会ICRAC向谷歌CEO桑达尔·皮查伊Sundar Pichai、总裁拉里·佩奇Lawrence Edward Page、黛安·格林Diane Greene、李飞飞呼吁停止该项目&＃xff0c;要求谷歌承诺不把该项技术用于军事武器。

2017年&＃xff0c;网络流传一段关于微型杀人机器人的视频&＃xff0c;机器人体型只有手掌1/2大小&＃xff0c;可以轻易逃避人类的捕捉。通过自身视觉系统定位目标&＃xff0c;发射弹药或者有毒化学物质&＃xff0c;杀害无辜的平民。基于人工智能的面部识别技术&＃xff0c;同时集合快速定位、无人智能集群技术、灵敏传感器、信息网络等多种高端科技技术。当时这段“模拟”的视频已经成为现实&＃xff0c;早在2016年美国就将机器人用于警方制服犯罪分子&＃xff0c;而俄罗斯也被传出一直秘密地研发杀人机器人&＃xff0c;用于监控和侦测&＃xff0c;并集成爆炸系统用以军事防御。

除了以上技术、伦理、政治正确等原因&＃xff0c;面部识别技术在GDPR准则下&＃xff0c;如何保证有效的数据库&＃xff0c;更好地演进技术&＃xff0c;也将成为面部识别公司们面临的巨大挑战。有趣的是&＃xff0c;相同的事物在不同的地区&＃xff0c;受到了截然不同的对待。近年&＃xff0c;中国一直努力地推行复杂的面部识别技术&＃xff0c;相关技术在安防、金融、日常C端产品中大量落地。相关数据显示&＃xff0c;国内目前监控摄像头安装数量已突破两亿&＃xff0c;是美国的四倍之多。

雷锋网认为&＃xff0c;正是由于国内对“新鲜事物”的包容心态&＃xff0c;以及普通民众对安全性的高需求&＃xff0c;使得面部识别技术得以顺利迅速地落地、推广。就像国内在移动支付领域的“后发优势”&＃xff0c;既有其特殊的历史背景&＃xff0c;又有民众乐于尝试先进科技的好奇心所驱动。

未来智能实验室是人工智能学家与科学院相关机构联合成立的人工智能&＃xff0c;互联网和脑科学交叉研究机构。

未来智能实验室的主要工作包括&＃xff1a;建立AI智能系统智商评测体系&＃xff0c;开展世界人工智能智商评测&＃xff1b;开展互联网&＃xff08;城市&＃xff09;云脑研究计划&＃xff0c;构建互联网&＃xff08;城市&＃xff09;云脑技术和企业图谱&＃xff0c;为提升企业&＃xff0c;行业与城市的智能水平服务。

  如果您对实验室的研究感兴趣&＃xff0c;欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”