AI技术的进步有时令人振奋，有时却让人不寒而栗。大多数行业人士对技术发展推动着新的高度感到兴奋，而一些专家担心这种技术可能在不久的将来或可能已经带来的不利情况。

AI算法在情感空间中正变得越来越人性化。 如今，人工智能已经能够读取人们的情绪。计算机视觉和面部识别技术的出现促使研究人员积极开发能够确定人类情感和意图的算法，并做出其他推断。正如麻省理工学院斯隆管理学院（MIT Management Sloan School）指出的那样，情感AI是人工智能的子集，可以识别、理解、模拟并对人类的情感做出反应。它也被称为情感计算，该领域的历史至少可以追溯到1995年，当时MIT媒体实验室教授Rosalind Picard出版了《情感计算》一书。

麻省理工学院媒体实验室情感计算小组的研究科学家哈维尔·埃尔南德斯（Javier Hernandez）将情感AI解释为一种允许人与机器之间更自然互动的工具：想想你与其他人互动的方式，你看着他们的脸，看着他们的身体，然后相应地改变互动。如果机器不知道自己的情绪状态，不知道自己的感觉，不知道如何应对特定的内容，该如何有效地传达信息？

正如麻省理工学院斯隆（MIT Sloan）教授Erik Brynjolfsson解释的那样，“虽然人类目前可能在理解情感方面占上风，但是机器正在利用自己的优势在不断发展。机器非常擅长分析大量数据，它们可以收听语音变化，并开始识别这些变化何时与压力或愤怒相关。机器可以分析图像并在人类面部微表情中拾取微妙之处，甚至可能人类无法识别的。

研究人员Lauren Rhue博士在一项研究发现了两个著名的情绪识别程序中的系统种族偏见情况：当她在400张NBA球员照片的数据集上运行Face ++和Microsoft的Face API时，她发现这两个系统都给黑人球员分配了更多的负面情绪无论他们笑多少。

几乎没有证据表明这些新的情感识别产品具有任何科学有效性。伯克利大学的研究人员发现，要准确且高度一致地发现情绪，就需要面部和身体以外的背景信息。

南加州大学的其他人在2019年举行的第八届情感计算与智能互动国际会议上呼吁暂停使用某些情感分析技术。这种面部表情识别技术正在兴起，但并非完全如此。与人们想要使用它的目的紧密相关。因此，他们只会犯错误，在某些情况下，这些错误会造成伤害。

去年夏天发布的一项重要评估报告发现，仅通过对面部运动的分析来“读出”人们的内部状态而不考虑背景的努力充其量是不完整的，最坏的情况是完全缺乏有效性。在回顾了上千项关于情绪表达的研究后，报告作者发现，尽管这些技术声称可以检测情绪状态，但实际上它们实现的结果要适度得多：检测面部运动。

研究表明，人们在文化，情境乃至人际交流情感状态的方式存在很大差异。此外，面部动作的相同组合（例如，微笑或怒容）可以表达的不仅仅是一种情感。无论情感计算的算法多么复杂，使用这种技术来判断人们的感受还为时过早。