微软总裁 Bradford L. Smith 将该技术与受到全面监管的药品和汽车等产品进行了比较,并敦促美国国会展开研究并监督人脸识别技术的使用。
此前,众多学者与开发者们签署了一份公开信,其中要求科技公司停止向政府和执法机构提供人脸识别技术,停止当前的数据分析和 AI 服务合同,并考虑制定道德准则,禁止威胁隐私、公民和人权的技术的武器化与军事化,建立透明和有问责机制的制度,以确保上述准则的实行。
近期微软因一份涉及人脸识别软件的政府合同而受到广泛抨击,微软公司表示,它将更加谨慎地考虑这方面的合同,并敦促立法者规范此类人工智能技术的使用,以防止滥用。
作为人脸识别软件主要制造商之一,微软表示它将采取措施降低这些系统产生偏差的可能性;制定新的公共原则来管理技术;并会更谨慎地出售其在该领域的软件和专业知识。微软指出,虽然技术行业需要对其产品负责,但是政府也要采取行动。
微软总裁兼首席法务官 Brad Smith 周五在其博客中写道:「政府管理技术使用的唯一有效方法是它主动采取行动。而且如果人们担心一项技术在全社会被广泛使用,那么规范该项技术广泛应用的唯一措施应由政府出面。实际上,我们认为这就是现在所需要的——一项首先由民主、共和两党代表和专家委员会通报的政府倡议,旨在规范人脸识别技术的正确使用。」
微软、谷歌、亚马逊等公司因向美国政府和当地警方出售 AI 软件,尤其是人脸识别软件而受到民间自由团体及这些公司内部雇员的抨击。对于科技公司来说,这种要求对自己产品进行更严厉监管的行为并不常见,但是 Smith 与微软人工智能及微软研究事业部负责人沈向洋今年早些时候就写了一篇文章,称 AI 的发展需要新的法律来规范。
Smith 写道,「虽然我们明白现在很多人要求科技公司来做这些,我们也明确意识到自己需要履责,但我们认为,这不足以代替公众及其代表的决策。」
人脸识别系统通常具备严重的缺陷,尤其是难以识别和区分肤色较深的人。微软研究者 Timnit Gebru 和 MIT 媒体实验室 Joy Buolamwini 二月发表的一篇论文表明人脸识别系统对肤色较深的女性的分类误差高达 35%。微软的研究机构致力于修正研究者在其人脸识别软件中发现的问题。