IBM停止销售面部识别技术
IBM公司首席执行官阿文德·克里希纳(Arvind Krishna)正在将其公司从通用面部识别市场中撤出,原因是该技术正被用于促进歧视和种族歧视。
克里希纳在今天致美国国会的一封信中说,“ IBM坚决反对,也不会容忍使用任何技术(包括面部识别)进行大规模监视,种族歧视,侵犯基本人权和自由或任何其他不一致的目的以我们的价值观和“信任与透明原则”。”
首席执行官还呼吁就执法机构如何以及何时使用面部识别技术进行“全国对话”。
面部识别技术多年来一直引起争议,其使用受到隐私保护主义者和立法者的严厉批评。美国的一些城市已经禁止在市政上使用该技术,但在机场和购物中心等公共场所,该技术却变得越来越普遍。此外,美国许多警察部门都采用了该技术。
但是面部识别技术的有效性一直受到质疑,一些批评家说,该技术对于女性和少数群体的准确率很低。他们进一步认为,面部识别正在成为一种“不可避免的,具有侵入性的”监视方法。
确实,即使是出售该技术的一些公司也提出了担忧。Clearview AI Inc.出售面部识别软件,该软件可让用户通过将自己的面部表情与互联网上发布的照片进行比较来识别人的身影。上个月,Clearview AI Inc.宣布不再将这项技术出售给私人公司,理由是担心该技术可用于商业目的。
CNBC报道,IBM放弃面部识别市场的决定不太可能损害公司,因为该业务并未从该市场产生任何可观的收入。但是,考虑到IBM的规模和声望,以及将美国政府视为其主要客户之一的事实,这是一个显着的举措。
Enderle Group的分析师Rob Enderle告诉SiliconANGLE,这一决定向我们表明,IBM拥有任何技术公司中最强大的道德政策之一。他说,在首次出现时,该公司决定将其资源从更有利可图的工作转移到帮助抗击,这也凸显了这种强有力的道德政策。
Enderle说:“现任领导层认识到,当公司失去对的权利时,它几乎总是糟糕透顶,因此,如果出现问题,他们会避免。” 具有讽刺意味的是,随着时间的流逝,IBM改进了其面部识别软件背后的技术,以使其不再因种族歧视。因此,该技术本身并没有错,但仍然可以被滥用。”
克里希纳(Krishna)在致国会的信中说,IBM听取了许多选民的担忧,包括其一些员工。
克里希纳说:“人工智能是一种强大的工具,可以帮助执法机构保护公民的安全。” “但是Al系统的供应商和用户负有共同责任,以确保对Al进行偏见测试,尤其是在执法中使用时,并且要对这种偏见测试进行审核和报告。”