微软负责人呼吁限制面部识别技术的应用,敦促政府对此加以调节

2018年07月16日 由 浅浅 发表 57624 0
微软负责人呼吁限制面部识别技术的应用,敦促政府对此加以调节

识别技术一直颇具争议。许多投资者和消费者权益组织团结起来反对亚马逊向当地执法部门提供面部检测人工智能;在委员会的听证会上,众议院的代表们要求FBI使用一个面部识别系统,其错误率接近15%;Facebook 在未经用户许可的情况下对照片进行面部识别时受到抨击。

关于部署面部识别技术的监管模糊性,微软等公司希望政府来加以权衡。微软总裁Brad Smith呼吁立法者调查面部检测算法并制定指导其使用的政策。

微软人工智能负责人Smith和Harry Shum前几个月发表了一篇论文,预测人工智能的进步将需要制定新的法律。但今天这篇文章标志着微软第一次明确主张对面部识别系统的监管,而不同于亚马逊的态度:亚马逊在六月表示私营部门有责任在使用人工智能技术方面采取负责任的行动。

Smith写道:“越来越多的技术公司需要限制政府机构使用面部识别和其他技术的方式。政府需要在调节面部识别技术方面发挥作用。”

他还指出,面部识别正在深深地融入我们的社会,这不一定是坏事。印度警方用它在四天内追踪了3000多名失踪儿童,地方当局采购了一个面部识别数据库,以查明涉嫌参与上个月致命资本公报射击的嫌疑人。但这并不意味着没有滥用的可能性。

“想象一下,政府会在未经您许可或不知情的情况下跟踪你过去一个月所走过的所有地方;想象一下,每个参加政治集会的人都有一个数据库,这个集会构成了言论自由的本质;想象一下,使用面部识别的购物中心商店可以相互分享您浏览的每个货架和你购买的产品的信息,而无需先询问你。长期以来,这一直是科幻小说和流行电影的内容,但现在它已经快要成为现实了。”

这也是一项不完善的技术。一些面部识别系统在非洲裔美国人面孔上的表现要比白种人面孔严重得多,而其他人在识别女性方面的时间要比男性更难。

Smith说:“即使解决了偏见,面部识别系统以对所有人都公平的方式运作,我们仍将面临潜在失败的挑战。面部识别与许多人工智能技术一样,即使以无偏见的方式运行,也会产生一定的误差。”

他没有要求具体的法律或道德原则,但提出了一系列问题供监管机构考虑,包括“面部识别的执法使用是否应受到人的监督和控制?”以及“我们应该确保使用面部识别作为政府国家安全技术实践的一部分,需要民事监督和问责制吗?“

至于法规可能如何通过,他认为,立法者应“利用正确的机制”收集专家意见,为决策提供信息。这包括任命两党专家委员会,特别是那些以学术界和公共和私营部门所做工作为基础的委员会。

“这样一个委员会的目的应该包括向国会提出建议,了解需要哪些类型的新法律法规,以及确保在整个行政部门内对这项技术进行适当的国会监督的更强有力的做法。”

Smith谨慎地指出,国会监管并不意味着公司可以放弃自己的责任。他呼吁科技公司研究降低面部识别技术偏见风险的方法,采用“原则性”和“透明”的方法开发人脸检测系统,在面部识别技术的部署中采取更缓慢,更有意识的行动并且在关于这项技术的公共政策辩论中以“全面”和“负责任”的方式参与。

就其本身而言,微软已经创建了一个名为Aether委员会的内部顾问小组来研究其对人工智能的使用,并发布了一套用于开发人工智能技术的道德原则。它还表示已经拒绝客户要求部署面部识别技术,“我们认为存在更大的人权风险。”

“所有工具都是双刃剑,”Smith写道,“工具越强大,它可能带来的好处或损害就越大......面部识别技术引发的问题涉及隐私和言论自由等基本人权保护的核心。”

微软,谷歌,Salesforce和其他科技公司因为向有争议的计划提供工具和专业知识而面临强烈批评。屈服于公众压力的微软于6月取消了与美国移民与海关执法局(ICE)签订的合同。
欢迎关注ATYUN官方公众号
商务合作及内容投稿请联系邮箱:bd@atyun.com
评论 登录
写评论取消
回复取消