首页 > 科技未来 > 内容

人脸识别技术走到十字路口？

发布于：2024-06-18 编辑：匿名来源：网络

向左还是向右？近日，人脸识别技术又遭遇“突发事件”。

周二，由 90 个倡导团体组成的团体写信给三个巨头 AAM（亚马逊、谷歌和微软），要求这三个公司承诺不向政府出售面部识别技术。

其中，这些团体包括美国公民自由联盟ACLU、难民移民教育和法律服务中心RAICES、电子前沿基金会EFF等重要组织。

这封信一经发表，给巨头三家公司带来了巨大的舆论压力。

这三家公司都是人脸识别技术系统领域的领导者，并在该领域投入了大量的精力和努力。

参见雷锋网之前的报道《人脸识别公司哪家更好？》亚马逊、微软、谷歌等大公司的技术对比分析。

ACLU加州美国公民自由联盟主任NicoleOzer表示，“我们正在使用面部识别技术来监控交通路口。

这些公司现在做出的选择将决定我们的下一代将生活在政府的持续监视之下。

例如，，无论他们参加示威和抗议，监视礼拜场所，甚至日常生活。

” 1 月 18 日上午，据彭博社报道，亚马逊的维权股东就亚马逊向政府机构出售面部识别软件的问题提交了一项决议，该决议将停止销售，直到该技术被认为不会对公民权利构成威胁。

非营利组织 Open MIC 主任迈克尔·康纳 (Michael Connor) 表示，亚马逊将 Rekognition 出售给政府，将使其自身及其股东面临风险。

ACLU认为，面部识别技术很容易误识别暗光。

事实上，这绝对不是ACLU等团体的“大惊小怪”。

去年12月，美国特勤局宣布计划在白宫周围部署面部识别监控测试系统，目的是识别可能存在的情况。

威胁总统的“目标嫌疑人”据雷锋网报道，该文件于今年11月底发布，文件显示，面部识别系统将比对录制的闭路视频片段。

白宫的公共区域设有图像数据库来监控和跟踪员工。

该测试于2019年11月19日开始，于2019年8月30日结束。

系统运行时，面部匹配的镜头图像将被保存，然后由人工审核员确认和删除。

该文件承认，运行这种面部识别技术可能会对毫无戒心的访客造成侵犯。

同时指出，整个白宫已成为“高度监视区域”，平民可以选择避开这一敏感区域。

当时，ACLU公开表示，白宫地区的监控虽然看似适用范围狭窄，但却打开了潘多拉魔盒。

即公共场所对普通平民的不合理审查跨越了隐私保护的界限。

目前，美国国土安全部（美国特勤局参与其中）已经使用面部识别技术对国内和国际航班上的乘客进行扫描。

未来几年，该计划可能会扩展到美国更多机场。

与此同时，美国一些公安机构正在使用亚马逊的面部识别工具Rekognition来实时扫描视频片段中的图像。

例如，华盛顿特区警察局最近以奥兰多市为试点进行了第二次 Rekognition 测试。

今年1月3日，Nextgov透露，FBI正在试用亚马逊的面部匹配软件Rekognition用于反恐调查。

据报道，亚马逊去年夏天向移民和海关执法人员提供了 Rekognition 软件。

亚马逊现在是美国政府最重要的云技术 AWS 提供商，中央情报局和国防部都是其客户。

不过，其面部识别软件在政府和公共部门的使用细节并不为外界所知。

面部识别技术引起了民间社会、舆论以及监管和立法机构的强烈反应。

美国立法者已多次致函亚马逊，要求提供有关 Amazon Rekognition 的更多信息。

信中提到，“人们非常担心这款产品存在严重的准确性问题，给有色人种带来不平衡的精神负担，并阻碍美国人在公共场合行使其第一修正案的权利。

”一方面，人脸识别技术巨头加紧部署，侵入社会各领域的应用和机构。

另一方面，巨头内部和内部对于人脸识别技术的态度也相当犹豫、暧昧，充满矛盾。

最近，谷歌和微软承认面部识别服务存在风险，以及被别有用心的人滥用和监视的可能性。

特别是去年12月，谷歌宣布，在技术漏洞无法有效阻止之前，不会出售Vision API。

微软总裁布拉德史密斯提出了一些保护措施来防止其滥用。

这包括国会通过的限制技术滥用的法律，特别是减少偏见和允许法院允许个人跟踪的法律。

去年年底，微软总裁布拉德·史密斯在布鲁金斯学会的一次演讲中表达了担忧：我们认为政府必须开始通过法律来规范这项技术。

面部识别技术是从一个充满邪恶的盒子里出现的。

除非我们在五年后醒来时采取行动。

随着人们发现面部识别服务会加剧负面社会问题的传播，这些挑战将变得更加困难。

我们不相信企业可以通过商业竞争更好地服务世界。

科技公司被迫在社会责任和市场成功之间做出选择。

防止恶性竞争的唯一途径是建立有效、健康的市场问责平台。

公司必须确保该技术的开发和使用受到法律限制。

相比之下，微软CEO萨蒂亚·纳德拉则更直接地表示，“有些技术一旦被滥用，就会对社会造成很大危害，政府应该对其进行监管”。

“人脸识别技术很可怕，绝对是恶性竞争。

”“任何以竞争为名的无边界交易，都不会给行业或者整个社会带来好的结果。

”这些话是针对自己的，也是针对的。

其竞争对手亚马逊对Rekognition表示强烈不满，为什么面部识别会引起如此大的争议？首先，在准确性问题上，面部识别系统可能会在去年的一次测试中错误地匹配了28名国会议员。

虽然后来经过人工修正，但当工具范围扩大后，在一定程度上，短时间内就有人被视为通缉犯，尤其是在识别有色人种时，误差较大。

其背后的原因是不同种族使用的数据模型和算法不同，需要单独部署《纽约时报》据报道，麻省理工学院媒体实验室对微软的面部识别系统进行了实验研究， IBM、旷视科技。

结果显示，在有色人种中，三种方法识别非白人的错误率高达20%-30%。

这进一步加剧了社会上的种族歧视和偏见等问题。

其次，从隐私角度来看，人脸识别技术涉嫌侵犯个人隐私权。

这项技术的危险在于，很容易在未经许可的情况下被广泛滥用，并且不被普通人注意到，不留下任何个人隐私的痕迹。

更重要的是，面部识别技术一旦应用于军队，将会给社会带来毁灭性的打击。

2017年4月，谷歌与军方之间的Maven杀手机器人项目持续发酵。

3000多名谷歌员工抗议，数十名员工辞职。

国际机器人武器控制委员会ICRAC呼吁谷歌首席执行官桑达尔·皮查伊、总裁拉里·佩奇、黛安·格林和李飞飞停止该项目，并要求谷歌承诺不使用该技术。

用于军事武器。

2016年，一段关于微型杀人机器人的视频在网络上流传。

该机器人只有手的1/2大小，可以轻松逃脱人类的捕获。