微软宣布，它已经更新了其面部识别技术，显着提升了系统识别肤色的能力。

这一改进解决了最近的担忧，即商业上可用的面部识别技术更准确地识别出肤色较浅的人的性别，而不是深色的肤色，而且他们在肤色较浅的男性身上表现最好，而肤色较深的女性则表现最差。

随着新的改进，微软表示它能够将颜色较深的男性和女性的错误率降低20倍。对于所有女性来说，公司表示错误率降低了9倍。总体而言，该公司表示，通过这些改进，他们能够显着降低人口统计数据的准确度差异。

对于肤色较深的女性，误差率更高，这凸显了行业范围内的挑战：人工智能技术只能与用于训练它们的数据水平一样。如果面部识别系统要在所有人中表现良好，那么训练数据集需要表现出多种肤色以及诸如发型，珠宝和眼镜等因素。

负责微软面部识别技术开发的团队通过Azure Cognitive Services为客户提供Face API，与微软的偏见和公平专家合作，改进称为性别分类器的系统，专注于改善性能所有肤色的结果。

Face API团队进行了三项重大更改。他们扩展并修改了训练和基准数据集，推出了新的数据收集工作，通过专注于肤色，性别和年龄，进一步改进训练数据，并改进了分类器以产生更高精度的结果。

微软纽约研究实验室的高级研究员，AI系统公平性，问责性和透明度专家Hanna Wallach说，“我们谈过不同的方式来检测偏见并实现公平。我们讨论了数据收集工作，以使培训数据多样化。我们谈到了不同的策略，在部署它们之前对我们的系统进行内部测试。”

认知服务团队的主要项目经理Cornelia Carapcea说，Wallach和她的同事们提供了“对偏见的更细致的理解”，并帮助她的团队创建了一个更强大的数据集，在肤色问题上负责。

超越技术挑战

Ece Kamar是华盛顿州雷蒙德市微软研究实验室的高级研究员。她的研究专注于人工智能工具，帮助工程师识别培训数据中的盲点，比如暗色皮肤女性的代表性不足，这可能导致AI系统在性别分类任务中出现不可接受的错误。

她表示，改善Face API中性别分类器的性能主要是一项技术挑战。她说：“收集更多捕捉到我们世界多样性的数据，并小心如何衡量绩效是减轻这些问题的重要步骤。”

她说，一个更加细微的挑战是，要学习如何以及何时去减少反映并放大社会偏见的AI系统，而不是因为数据集不完整或算法不足，而是因为人类社会存在偏见。

Wallach解释说：“如果我们正在训练机器学习系统以模拟在有偏见的社会中做出的决策，并使用该社会生成的数据，那么这些系统必然会重现其偏见。”

Wallach的团队正在制定最佳实践，以便从构思和数据收集到模型培训，部署和监控，从这些类型的AI驱动产品和服务的整个开发流程中检测和减轻偏见和不公平。

“这是一个真正思考我们在系统中反映什么价值的机会，”Wallach说，“它是否是我们想要反映在我们的系统中的价值。”

寻找答案

例如，如果您在网上搜索“首席执行官”这个词，那么你很可能会得到有关世界各地公司和组织的高级领导职位的信息，其中包括一些图片，最有可能是男性。

这并不奇怪，因为财富500强CEO中不到5％是女性。

在微软，这促使Bing搜索引擎工程师不断探索与Bingla等专家合作，他们正在寻找如何最好地展示反映董事会，学术界和社交媒体关于缺乏女性首席执行官，以及改变这种状况的努力。

Bing团队的主要项目经理Michael Golebiewski表示，“当我们思考这种偏见时，我们开始考虑如何教用户分辨偏见，如何向用户解释社会正在发生的事情，以及如何帮助用户探索这些事情。”

“这是一个还没有完整答案的领域。这也是我们开始考虑如何在用户搜索时与用户进行对话的一个领域。”