AI隐形衣：穿上这件连帽衫，监控算法对你“视而不见”

本文转载自公众号“读芯术”(ID&＃xff1a;AI_Discovery)。

AI在监控技术中的广泛使用&＃xff0c;使得每一台闭路电视摄像机都有可能成为国家的密探。在网络上&＃xff0c;从社交媒体网站或视频中抓取的图片皆可以被用来建立诸如Clearview AI(美国人工智能脸部识别公司)那样的大型监控数据库。

如今&＃xff0c;一件连帽衫有可能改变这一切。Facebook和马里兰大学的研究学者制作了一系列运动衫和体恤衫&＃xff0c;可以骗过监控算法&＃xff0c;使其无法检测到穿着者。他们将其称为AI“隐形斗篷”。

这些衬衫利用了近五年前从计算机视觉算法中发现的一种特性。该算法使用一种简单(甚至有些天真幼稚)的方式来识别物体&＃xff1a;他们在新图像中搜索与已识别图相似的像素图案。当人类在看到新事物时&＃xff0c;可以根据复杂的线索和实际的知识进行判断&＃xff0c;但算法只会用图像匹配这一方法。

来源&＃xff1a;Rageon.com

这意味着&＃xff0c;如果知道算法正在搜索的模式&＃xff0c;就可以将其隐藏。为了制作这种可欺骗算法的衬衫&＃xff0c;Facebook和马里兰大学的团队通过一种检测算法处理了一万张人像图片。当一个人被检测到时&＃xff0c;图片的视角、亮度和对比度会被随机改变&＃xff0c;接着&＃xff0c;他们使用另一种算法找出欺骗算法最有效的随机改变。

当这些随机图案被打印在实物(如海报、纸娃娃以及衣物)上时&＃xff0c;检测算法仍然会被欺骗。但研究学者也指出&＃xff0c;实际测试的准确度低于纯数字测试&＃xff0c;当一个人能穿着这个运动衫时&＃xff0c;检测器的识别能力从近100%下降至50%&＃xff0c;即投掷硬币正反面的可能性。

此研究延续了马里兰大学计算机科学系进行的一项工作&＃xff0c;其中部分研究人员在2018和2019年期间加入了Facebook。此前&＃xff0c;该实验室研究怎样利用与欺骗AI相同的原理来欺骗版权检测算法(例如YouTube用来防止未经授权使用受版权保护音乐的算法)&＃xff0c;以说明逃避版权检测的容易程度&＃xff0c;这引起了人们的重视。

这项研究对Facebook也有利。破解作效的根本原因是图像识别算法缺乏分析图像的上下文或理解&＃xff0c;理解算法如何失败是使算法不受骗的第一步。

这是一个研究过程的开始&＃xff0c;它不仅能使算法更好地抵抗攻击&＃xff0c;而且从理论上来说&＃xff0c;由于图片的展现方式更加复杂&＃xff0c;其准确度和灵活度也将大大提高。换句话说&＃xff0c;此研究可以增强图像检测算法的强度&＃xff0c;而不是摧毁它。

事实上&＃xff0c;我们的确可以买到一件印有算法欺骗图案的体恤衫或是运动衫。但是&＃xff0c;目前它不太可能保护你的身份信息免受监控技术的侵害。研究员们测试图案使用的是普及的开源算法&＃xff0c;而不是NEC等监控公司构建的独有算法。

同时&＃xff0c;这个图案旨在避免人员检测&＃xff0c;而非面部识别&＃xff0c;后者仅针对人面部的某些方面而非整个身体。在公共场所&＃xff0c;人员检测可用于执行以下任务&＃xff1a;计算人群数量、查看是否有人在接近智能门铃&＃xff0c;在某些情况下还可以增强面部识别。

图源&＃xff1a;unsplash

但这项研究以及其向可复制方式的转变&＃xff0c;它代表了监控技术的一种变化&＃xff1a;人们可以凭借一件简单的衣物颠覆最先进的算法&＃xff0c;并为任何想要的人制作衣物图案。即便它不奏效&＃xff0c;贴有人工智能生成的监视欺骗图像的运动衫也是一个很好的对话工具。