无代码企业数字智能协作平台“Treelab”获数千万美元融资，红杉中国等领投
06-18
雷锋网注：【图片来源：IEEE Owner：Matthias Graben/Getty Images】吉米·Gomez（Jimmy Gomez）毕业于哈佛大学，是加州民主党成员，也是美国众议院少数几位西班牙裔议员之一。
代表。
但对于亚马逊的面部识别系统来说，Gomez看起来更像是潜在的罪犯。
亚马逊的面部识别系统名为 Rekognition，去年接受了美国公民自由联盟 (ACLU) 的测试。
测试结果显示，系统错误地将美国国会议员议员Gomez的照片与被捕的罪犯相匹配。
此外，警方使用的 Rekognition 系统中近 40% 的错误匹配涉及有色人种。
这一发现引发了公民自由团体、立法者甚至一些科技公司日益增长的担忧。
该技术已经在 iPhone 和 Android 手机上使用，并且正在慢慢被警察、零售商、机场和学校等组织所接受。
随着面部识别技术变得更加主流，它可能会损害少数群体。
研究表明，面部识别系统更难准确识别女性和深色肤色的人，这个问题可能会导致灾难性的误报。
公民自由律师雅各布·斯诺 (Jacob Snow) 表示：“这个例子表明，面部识别技术如果应用于执法可能会产生有害后果。
”面部识别技术当然有其好处。
马里兰州警方利用该技术识别了大规模枪击事件的嫌疑人；在印度，警方利用该技术在四天内识别了几乎失踪的儿童； Facebook 使用该技术为视障人士识别照片中的人物；除此之外，面部识别技术已成为解锁智能手机的便捷方式。
但这项技术并不完美，并且存在一些令人尴尬的失误。
谷歌图片曾将两名黑人标记为大猩猩；在中国，一位女性声称她同事的脸部可以解锁她的iPhone X。
当执法机构使用这项技术来识别犯罪嫌疑人或识别抗议活动参与者时，误判的风险就会增加。
Gomez说：“当你将这项技术出售给执法部门并让他们识别通缉犯时，情况就完全不同了，因为你创造了一种可能性，面部识别技术产生的误报可能会导致执法部门伤害无辜者。
”甚至还杀了人。
”Gomez·议员对美国公民自由联盟的调查结果并不感到震惊。
他指出，技术工作者往往更关注如何让技术发挥作用，而不是仔细思考他们的技术是否会影响其他群体。
。
科技公司通过改进用于训练面部识别系统的数据来回应Gomez的批评。
但与民权活动人士一样，科技公司也呼吁加强政府监管，以保护技术免遭滥用。
乔治城大学法学院的研究人员估计，美国执法部门的面部识别数据库存储了二分之一成年公民的信息。
亚马逊对 ACLU 的测试结果提出异议，声称 ACLU 在运行测试时使用了不正确的设置。
亚马逊人工智能项目总经理马特·伍德（Matt Wood）在博文中写道，“就像烤披萨一样，错误的温度设置会导致披萨烧焦。
我们不应该把这个原因归咎于烤箱。
在帮助执法机构完成在在工作中，机器学习起着至关重要的作用，但我们不应该完全忽视面部识别技术，“与白人相比，面部识别技术的错误率很难消除。
乔治敦大学法学院隐私与技术中心高级研究员克莱尔·加维（Clare Garvie）表示，识别其他群体与女性的关系可能会更加困难，造成这种情况的原因有很多。
面部识别系统可能比其他群体包含更多的白人图像，例如，如果一家公司使用名人数据库中的照片，那么该公司的系统将偏向白人，因为其他群体在好莱坞的代表性不足。
雷锋网注：【图片来源：IEEE 所有者：Getty Images】加维表示，科技公司的工程师（主要由白人组成）也可能无意中设计了面部识别系统，以更好地识别某些种族。
研究表明，人们更难以识别其他种族的面孔，“跨种族偏见”可能会蔓延到人工智能技术。
加维补充说，也存在一些挑战，例如深色皮肤缺乏色彩对比，或者女性使用化妆品来掩盖皱纹或以不同的方式梳理头发。
麻省理工学院媒体实验室进行的一项调查显示，微软、IBM 和其他公司制造的面部识别系统比白人更难识别黑皮肤女性（例如非裔美国人女性）的性别。
深色皮肤的女性的性别被误认的概率为 35%，而浅肤色的人（白人）的错误率仅为 1%。
麻省理工学院一月份发布的另一项研究显示，亚马逊的面部识别技术在识别黑皮肤女性的性别方面比这两家公司差。
亚马逊是一家还有很长的路要走的科技公司，它对麻省理工学院的研究结果提出了质疑，发言人马特·伍德在一篇博客文章中称这项研究“具有误导性”。
因为研究人员使用“面部分析”来识别面部特征，例如性别或微笑，而不是将面部与照片或视频中的图像进行匹配以进行“面部识别”。
“面部分析和面部识别在底层技术和训练数据来源方面完全不同。
马特·伍德表示，“尝试用面部分析来判断面部识别的准确性是不明智的，因为面部分析并不是为算法而生的。
” “科技巨头并非没有意识到种族偏见。
微软表示，去年将识别女性和深色皮肤人的错误率降低了 20 倍；Facebook 使用面部识别技术来标记用户，该公司发言人表示，该公司确保它使用的数据“平衡并反映了Facebook用户的多样性”；谷歌声称它发布了人工智能原则，其中包括禁止“创造或强化不公平的‘偏见’”。
今年1月，IBM发布了一组“人脸多样性”数据，旨在推动人脸识别公平性和准确性的研究。
这些数据包括 10,000 张人脸图片，带有面部对称性标签，例如性别、鼻子长度和额头高度。
“我们对多样性的含义有一些主观和肤浅的想法，”IBM 面部多样性项目的首席科学家约翰·史密斯说。
“这就是 IBM 创建这个数据库的原因。
目标是深入研究如何实际测量面孔的多样性。
该数据库的照片来自照片网站 Flickr。
本月，IBM 因未经人们同意而使用人们的照片来改进面部识别技术而受到一些摄影师、专家和活动人士的批评。
对此，IBM 表示，它非常重视隐私问题，用户可以选择退出该数据库。
亚马逊表示，目前正在使用反映多样性的培训数据源，并教育客户如何最佳使用面部识别技术。
公司副总裁迈克尔·庞克(Michael Punke)在博客文章中表示，发布指导意见称立法者在考虑监管时应考虑这一点：“各方应进行公开对话，以确保该技术得到适当和持续的使用。
做出改进。
“基本的政府监管”尽管科技公司努力提高面部识别技术的准确性，但对移民或其他种族歧视的担忧并未消失，部分原因是这些群体在日常生活中仍然与偏见作斗争。
民权组织和专家认为，这项技术仍然可以实现。
加维说，执法部门和政府可以利用这些技术来识别政治抗议者或追踪移民以限制他们的自由。
民权组织和科技公司呼吁政府介入。
“如果政府想要规范这项技术的使用，最有效的方法是规范政府自己对这项技术的使用。
”“如果人们担心某种技术在社会上的广泛使用，政府是唯一能够规范这种广泛使用的机构，”微软总裁布拉德史密斯在一篇博文中写道。
美国公民自由联盟呼吁立法者暂时禁止执法部门使用面部识别技术。
该民权组织还致信亚马逊，要求其停止向政府提供面部识别系统。
一些立法者和科技公司已向国家标准技术研究所（NIST）询问，对于像Gomez一样的议员来说，这项工作才刚刚开始。
“我对亚马逊没有任何反对意见，”他说。
技术对人们的隐私和自由产生深远的影响，并引发了许多问题。
》雷锋网注：原作者为QUEENIE WONG。
本文编译自IEEE【封面图片来源：网站名称IEEE，版权所有：Matthias Graben/Getty Images】雷锋网版权文章未经授权禁止转载。
详情，请参阅转载说明。
版权声明：本文内容由互联网用户自发贡献，本站不拥有所有权，不承担相关法律责任。如果发现本站有涉嫌抄袭的内容，欢迎发送邮件 举报，并提供相关证据，一经查实，本站将立刻删除涉嫌侵权内容。
标签：
相关文章
06-17
06-17
06-18
06-18
06-21
06-18
最新文章
Android旗舰之王的过去与未来
智能手表不被开发、AR眼镜被推迟，Meta的产品经历了一波三折
为什么Cybertruck是特斯拉史上最难造的车？
更新鸿蒙3后，文杰允许你在车里做PPT了
新起亚K3试驾体验：追求“性价比”，韩系汽车仍不想放弃
阿维塔15登场！汽车配备了增程动力，理想情况下会迎来新的对手吗？
马斯克宣布创建 ChatGPT 竞争对手！ OpenAI的CEO给他泼了冷水， GPT-5可能会发生巨大变化
骁龙无处不在，是平台也是生态