跳到主要内容
您有权编辑本文。
编辑
美联储正在越来越多地使用面部识别系统 - 尽管呼吁暂停暂停
聚光灯 AP

美联储正在越来越多地使用面部识别系统 - 尽管呼吁暂停暂停

  • 0.
{{featured_button_text}}}

政府机构越来越多地使用面部识别技术,包括通过像这样的安全摄像机在2019年安装在林肯纪念馆上。马克·威尔逊/盖蒂图像公司

尽管反对声音越来越大,但美国政府正在增加使用备受争议的面部识别技术。

美国政府问责办公室发布报告2021年8月24日,详细介绍了联邦机构目前和计划使用的面部识别技术。审计署进行了调查24个部门和机构——从国防部到小企业管理局——发现有18人报告使用了该技术,10人报告了使用该技术的计划扩大他们的使用

该报告超过一年后美国技术政策委员会科学机械协会,世界上最大的教育和科学计算社会,呼吁立即停止几乎所有政府使用面部识别技术。

美国技术政策委员会是众多团体和知名人士之一,包括ACLU, 这美国图书馆协会和联合国意见自由的特别报告员乐动体育西班牙人赞助商j,呼吁使用该技术的使用。这种反对派的共同主题是面部识别技术缺乏标准和规定。

一年前,亚马逊、IBM和微软也宣布将停止销售面部识别技术向警察部门申请联邦监管该技术。国会是称重暂停关于政府对技术的使用。一些城市和州,尤其是缅因州,引入了限制。

为什么计算专家说不

计算机协会的美国技术政策委员会(U.s.Technology Policy Committee)发出了暂停使用的呼吁,其中包括来自学术界、工业界和政府的计算机专业人士,其中一些人积极参与了该技术的开发或分析。在声明发表时担任委员会主席,并作为乐动下载计算机科学研究员,我可以解释促使我们委员会推荐这项禁令的原因,也许更重要的是,委员会抵押呼叫所需的内容。

如果你的手机认不出你的脸,让你输入密码,或者你正在使用的照片分类软件错误地识别了一个家庭成员,那么就不会造成真正的伤害。另一方面,如果你因为识别算法不完善而被逮捕或拒绝进入某个设施,那么影响可能是巨大的。

我们撰写的陈述概述了在这些相应的应用中使用面部识别技术的原则。对这些系统的第一个也是最关键的是需要了解这些系统的准确性。这些算法的关键问题之一是它们不同种族群体表现不同

一个人脸识别供应商的评价由美国国家标准与技术研究所发现,当一个族群与另一个族群比较时,测试的大多数系统的能力明显差异。另一个研究发现算法是更准确的浅肤雄性男性而不是暗皮肤的女性。研究人员还探讨了其他特征,如年龄,疾病和疾病残疾状态,影响这些系统。这些研究也很重要转了差异

麻省理工学院的Joy Buolamwini解释了她的研究在面部识别技术中发现了种族和性别偏见。

许多其他功能会影响这些算法的性能。考虑如何在您在社交媒体上共享的漂亮家庭照片之间的差异,而粒度安全摄像头或移动警车的图片,迟到的夜晚。一个系统是否在前者上培训,在后面的背景下表现良好?如何照明,天气,摄像机角度和其他因素影响这些算法这仍然是一个悬而未决的问题。

在过去,匹配的系统指纹或者DNA痕迹必须经过正式评估,制定标准,然后才能信任警察和其他人使用。在人脸识别算法能够达到类似标准之前——研究人员和监管机构真正理解使用该技术的环境如何影响其准确性——该系统不应用于可能对人们生活造成严重后果的应用中。

透明度和问责制

使用面部识别的组织也很重要提供了某种形式的有意义的高级和正在进行的公告。如果系统可能导致您失去自由或生活,您应该知道它正在使用它。在美国,这是一种从速度相机使用许多潜在有害技术的原则视频监控,USTPC的立场是面部识别系统应保持相同的标准。

为了获得透明度,还必须有规则,规则管理基于面部识别系统培训的个人信息的收集和使用。ClearView AI公司,现在有软件在世界各地的警察机构使用,是A.恰当的例子. 该公司在没有通知的情况下收集了数据——个人面部照片。

面部识别技术在帮助执法部门识别嫌疑犯方面具有巨大潜力。

ClearView AI收集来自许多不同应用程序,供应商和系统的数据,利用了管制此类收集的宽松法律. 在TikTok上发布自己视频的孩子、在Facebook上为朋友添加标签的用户、使用Venmo购物的消费者、将视频上传到YouTube的人以及其他许多人都可以创建图像,这些图像可以链接到自己的名字,并可以被Clearview AI等公司从这些应用程序中删除。

您是否在DataSet ClearView使用中?你没有办法知道。ACM的立场是您应该有权知道,并且政府应该对如何收集,存储和使用来限制。

2017年,计算机械协会美国技术政策委员会及其欧洲同行发布了a联合声明关于可能导致有害歧视的个人自动决策算法。简言之,我们呼吁决策者让使用分析的机构遵守与人类传统决策机构相同的标准,无论是交通执法还是刑事起诉。

这包括了解当他们实施强大的计算技术的风险和益处之间的权衡,并在危害发生危害时具有明确的原则。面部识别技术在此类别中,了解如何衡量其风险和福利以及谁在失败时负责。

保护公众

政府的主要作用之一是管理技术风险并保护其群体。计算机械的USTPC协会的原则已概述用于调节运输系统,医疗和制药产品,食品安全实践以及社会许多其他方面。简而言之,计算机械的USTPC协会询问政府认识到面部识别系统对许多人造成重大伤害的潜力,通过错误和偏见。

这些系统仍处于成熟的早期阶段,研究人员,政府和行业不了解它们。直到面部识别技术更好地理解,它们在后续应用中的使用应停止,直到它们可以得到适当调节。

___

每周周末都充分利用谈话。注册我们的每周时事通讯对话

詹姆斯亨德勒从美国国家科学基金会和IBM公司获得美国国防高级研究项目机构的资金。

___

立即观看:Krispy Kreme提供免费甜甜圈,具有疫苗的证明,以及今天的更多顶级视频

Krispy Kreme现在提供疫苗的客户两个免费的甜甜圈,比尔盖茨的提示将教你如何充分利用每分钟的大部分时间,以及今天的更多顶级视频。

  • 更新
  • 0.

根据周二发布的标准普尔案例 - Shiller指数,20名主要地铁市场的房价收益于6月份达到历史记录。在一个se ...

0.
0.
0.
0.
0.

第一个知道

*我理解并同意,注册或使用本网站构成对其用户协议的同意,以及隐私政策

与这个故事有关

最受欢迎

获取直接向您的设备发送的分钟新闻。

话题

新闻预警

爆炸新闻