亚马逊将人脸识别武器化,你的脸还好吗?

  • 日期:01-12
  • 点击:(1136)


这一天终于来了。

亚马逊正在向军方出售人工智能武器。

据报道,亚马逊正在为政府和警察部门推广一款名为亚马逊Rekognition的产品。该产品可以实时识别、跟踪和分析人员,并在一张图像中识别多达100人。它还可以快速扫描收集到的信息,并将其与数据库中数千万张人脸进行比较。

这意味着亚马逊的技术可以监控“公共场所的所有面孔,如群体照片、拥挤的人群和机场”。这个消息立即引发了一系列恐慌。美国公民自由联盟(ACLU)组织了30多个民权组织共同反对亚马逊的行为,并针对美国政府使用人脸识别技术举行了一系列抗议活动,要求亚马逊CEO贝佐斯停止向政府出售Rekognation。

大多数人认为通过Rekognition,政府现在可以建立一个系统来自动识别和跟踪任何人。如果警察配备了配有人脸识别装置的个人摄像机,原本用于执法透明度和问责制的装置将变成公众的监视器。一旦“热门”亚马逊退出,亚马逊内部和用户之间就会有很多讨论。

在亚马逊内部,许多员工加入民权组织,抗议他们的行为,并认为这将对公民权利构成独特的威胁,尤其是对移民和人民。

6月份,亚马逊100多名员工甚至向首席执行官杰夫贝佐斯(Jeff Bezos)提交了一封公开信,要求该公司停止向ICE和其他执法机构出售侵入性和违宪的Rekognition面部识别技术。

除了要求停止销售Rekognition,亚马逊员工还呼吁公司停止支持数据分析公司Palantir。

Palantir是彼得泰尔在2003年创立的一家大数据公司。它为执法部门提供预测性的监管工具,并通过亚马逊网络服务(Thiel曾秘密资助一项导致Gizmodo的前母公司Gizker Media破产的诉讼)与ICE签署了大量合同。

然而,亚马逊并不认同这种情况。面对像“内部和外部攻击”这样的抗议,亚马逊没有像谷歌那样推迟项目,而是选择了“积极的刚性”。亚马逊回应道:它不应该仅仅因为技术可能被滥用就限制技术进步。他说他会坚定地为雷肯尼蒂翁辩护。

在商业上,从商业角度来看,亚马逊的行为没有原则。然而,当人脸识别技术涉及“道德”和“隐私安全”等敏感领域时,它并不像亚马逊所说的那么简单。

人脸识别,说爱你并不容易

人脸识别技术已经在市场上出现了相当长的一段时间,但是从它的性能来看,它并不像想象的那么优秀。智能相对论(aixdlun)分析师柯明表示,人脸识别技术的发展仍然存在许多问题。

1。“冤枉了98%的好人”

人脸识别的准确性没有我们想象的那么高。在此前的伦敦议会听证会上,伦敦警察局长克雷斯达迪克(Cressida Dick)透露,当地警方部署的人脸识别系统的准确率仅为2%。

在去年6月的冠军联赛中,当南威尔士警方的面部识别摄像头首次被使用时,该系统发出了2470次警报。换句话说,在这场比赛中,嫌疑犯每三秒钟就会被提示一次,系统的努力真的很感人。

然而,在2000多个警告中,只有173个是正确的判断,AFR的错误率高达92%。英国警方提供的统计数据显示,截至今年5月,南威尔士警方的AFR识别错误率平均为91%。

历史上最著名的人脸误判案例可能是1903年堪萨斯州的威廉韦斯特威尔韦斯特案。那时,一个叫威尔的人?威尔韦斯特的囚犯将被带进莱文沃思监狱。监狱工作人员看着他,问他以前是否来过这里。威尔说不。然后店员给威尔看了威廉韦斯特的照片。威尔说,“这真的是我,但是你是怎么得到这张照片的?我以前从未来过这里。”从那时起,从美国开始,各国的监狱和司法系统开始用指纹登记和管理罪犯的身份。

显然,这种自我目标的事件让人开怀大笑,但同时也有一些隐忧。这种“不可靠”的人脸识别真的能成为安全和其他领域的保护伞吗?

2。人脸识别有一条漫长而艰难的道路。

不管人脸识别本身的正确率如何

首先,人脸识别不是准确的信息比较,而只是相似性比较。因为人脸识别和计算技术不同,值的设置方法也完全不同,评估标准自然也不同。即使从识别的实际效果来看,它也包括错误识别率(FAR):将他人误认为指定人员的概率;拒绝率(FRR):一个指定的人被误认为另一个人的概率。这些结果都受训练和测试空间样本的影响,很难完全准确。

其次,如果面部图像的采集没有在体内监控,很容易导致基于用户照片的重放攻击。在活体检测的情况下,对后端计算资源和网络传输资源的需求很高,因此目前在线人脸识别实际上很容易突破。

最后,人脸形状容易变形,使得人脸识别更容易出错。人们可以通过面部变化产生许多表情,不同观察角度的人脸视觉图像差异很大。此外,人脸识别还受到许多因素的影响,如光照条件(如白天和夜晚、室内和室外等)。)、许多人脸封面(如面具、太阳镜、头发、胡须等)。)、年龄等。

无情地泄露隐私,你的脸没事吧?

面对大量抗议,微软在三大公司中选择了先低头。在一篇关于人脸识别的潜在使用和滥用的博客文章中,微软总裁布拉德福德史密斯(Bradford L. Smith)将这项技术与受全面监管的药品和汽车等产品进行了比较,并敦促美国国会进行研究并监督人脸识别技术的使用。

作为人脸识别软件的主要制造商之一,微软表示将采取措施降低这些系统中出现偏差的可能性。制定新的公共原则来管理技术;并将更仔细地销售其在该领域的软件和专业知识。微软指出,尽管科技行业需要对其产品负责,但政府也应该采取行动。

人脸识别是目前人工智能领域应用最广泛的技术之一,但在推广过程中也引起了越来越多的争议。今年4月,个人隐私保护组织向美国联邦贸易委员会提起诉讼,声称脸谱网在没有得到用户适当许可的情况下启动了一项新的面部识别服务。

目前,大数据、云计算和人工智能等技术正在推动移动互联网中新的应用场景一个接一个地出现,但它们背后的隐私和数据保护已经成为网络平台和移动终端的一项紧迫任务。从整个移动终端市场来看,数据在应用领域的滥用非常突出。第三方应用程序对个人信息的过度收集、秘密收集和欺骗收集日益增多。

用户隐私数据安全挑战加剧有三个主要原因。首先,过于笼统的“用户协议”出售了用户信息,并授权获取和收集用户个人信息,导致个人信息的不正常使用,甚至大量泄露。

第二,用户本身对个人信息的保护不够重视。为了方便起见,许多用户在许多地方使用简单重复的帐号和密码。当一个信息被泄露时,整个信息就会被暴露。

第三,缺乏法律层面。当数据与能源同等重要时,法律法规的滞后在一定程度上导致了数据安全和隐私保护的缺失。数据所有权和数据交易规则等基本法律仍未明确界定。例如,个人数据原本属于用户自己,但用户在网络平台上生成的数据,如交易数据和行为数据,脱敏后,所有权和使用权属于用户还是平台仍然没有答案。

从现在开始,人脸识别的场景主要分为两种:一种是在线,例如,电脑通过你上传的用户图像识别你的身份;另一个离线了。例如,系统可以通过监视器在街上拍摄的照片来识别你。然而,目前的情况是在线和离线数据保护远远不够。所谓的用户授权更没用,谁真的有我们的“面子”?政府将如何监管