IBM承诺不再面部识别软件

在马匹(IBM)的首席执行官Arvind Krishna宣布该公司将不再出售通用面部识别的情况下,这将成为关闭马stable门的经典案例。

IBM的首席执行官Arvind Krishna宣布该公司将不再出售通用的面部识别软件,这是在这匹马爆发后很长时间关闭马stable门的经典案例,这是一个经典的案例。警察的种族概况使用。他们还将停止对该技术的研究和开发。

尽管值得称赞的是,这一公告可以说比五年晚了五年,因为许多公司经常将基于AI的面部识别软件出售给执法部门。使用Facebook或Google的任何人也都了解这项技术,因为我们观看两家公司都为我们标记朋友和同事。 (Facebook最近解决了有关以5.5亿美元使用非法使用面部识别的诉讼。)

值得注意的是,除了IBM,没有其他人愿意停止开发和销售面部识别软件。

图像来源:TADA图像/shutterstock

克里希纳在致参议员科里·布克(D-NJ)和卡玛拉·哈里斯(D-CA)的公开信中宣布了这一消息,以及代表卡伦·巴斯(D-CA),Hakeem Jeffries(D-NY)和Jerrold Nadler(D-纽约)。国会中的民主党人正在考虑立法以禁止面部识别软件,因为据报道滥用行为堆积如山。

IBM的信指出:

“ IBM坚定地反对并且不会宽恕任何技术,包括其他供应商提供的面部识别技术,用于大规模监视,种族概况,侵犯基本人权和自由的行为,或任何与我们的价值观和原则不一致的目的信任和透明度。我们相信现在是时候开始就国内执法机构进行面部识别技术以及如何采用面部识别技术进行全国对话了。该公司未经所有者的同意,扫描了Flickr的近一百万个创意共享图像。另一方面,IBM于2018年发布了公共数据集,以尝试透明。

图像来源:最佳背景/shutterstock

除了隐私问题 – 这里肯定存在隐私问题 – 当前可用的软件不成熟并且容易出现错误。更糟糕的是,它通常反映了其程序员的偏见,后者在很少有监管或监督的私人公司工作。而且,由于商业面部识别软件被出售给执法部门,因此经常出现的识别错误和偏见是危险的:它们可能破坏无辜人民的生活。

该网站的性别阴影提供了启发性的演示,展示了面部识别的不准确性类型。该页面由Joy Buolamwini和Timnit Gebru在2018年组合在一起,并未反映出它测试的软件的最新迭代,来自三家公司Microsoft,Microsoft,Microsoft,现在是可能的IBM Watson和Face ++。尽管如此,它还是说明的。首先,所有三个计划在识别男性方面的表现都比女性更好。但是,当涉及性别识别时(简化二进制为简单性)和肤色,令人印象深刻的结果确实令人不安地对他们所反映的偏见感到不安。Amazon的重新认知面部识别软件是最常出售给执法部门的软件,也是ACLU的一种。 2018年的测试跑步表明,这也很糟糕:在公共数据库中,它错误地将28名国会议员确定为28,000张Mugshots的人。

更新,6/11/2020:亚马逊今天宣布了为期12个月的执法使用重新认知的暂停,表达了该公司希望国会在临时颁布“更强有力的法规,以管理面部识别技术的道德使用”。

2019年,美国国家标准技术研究所的一项联邦研究报告了他们分析的189个面部识别算法中与年龄,性别和种族有关的偏见的经验证据。某些人群的成员被误认为100倍。这项研究正在进行中。

图像来源:Gian Cescon/Unsplash

该公司与侵犯隐私的面部识别软件最臭名昭著的公司必须是Clearview AI,我们以前写过的是谁。这家公司刮掉了超过30亿个社交媒体图像的身份证明,未经海报允许开发出向执法机构出售的软件的许可。ACLU在2020年5月起诉Clearview AI,以从事“违反伊利诺伊州的非法,脱离隐私的监视活动”,以从事“非法,隐私的监视活动”。生物识别信息隐私法。该组织写信给CNN:“ Clearview与具有Internet连接的任何人一样免费查看在线照片。但是,它无法做的是未经同意,从这些照片中捕获我们的面积 – 独特地识别生物识别技术。” ACLU的投诉称:“在捕获了数十亿个面积并继续将它们存储在大量数据库中时,Clearview失败了,并且继续未能采取必要的基本步骤,以确保其行为是合法的。”

尽管毫无疑问,它使脊柱发冷,但由于软件行业对AI的痴迷而鼓舞了面部识别技术,这表明我们无法逃脱,无论是否长期以来,我们的面孔都可以长期存在。广告商想知道我们是谁,执法人员想知道我们是谁,并且随着我们的生活在社交媒体上更加果断地旋转,许多人毫无疑问,许多人都会欢迎技术自动将我们与新旧新老联系在一起。担心虐待的可能性可能会导致后座以方便。

一段时间以来,对于那些被互联设备包围的人来说,隐私是否是一个问题,这是一个悬而未决的问题。这些几代人不太关心隐私,因为它们(实际上是不期望的),尤其是在法律上很少有私人的美国。IBM的原则性立场最终可能比其他任何东西都更重要。

原创文章,作者:生活会,如若转载,请注明出处:http://www.dsonekey.com/5033.html

发表评论

您的电子邮箱地址不会被公开。 必填项已用*标注

联系我们

400-800-8888

在线咨询:点击这里给我发消息

邮件:admin@example.com

工作时间:周一至周五,9:30-18:30,节假日休息