Facebook推出一种新的AI工具，它将帮助社交网络检测色情报复内容，即未经同意共享亲密图像，当它们在网上发布时，会对照片中出现的人造成严重后果。该技术将利用AI和机器学习技术，主动检测未经Facebook和Instagram许可共享的图像或视频。

此前，Facebook曾尝试推出一项照片匹配技术，让用户直接向Facebook提交自己的私密照片和视频。该项目与受害者维权组织合作运行，然后将为该图像创建一个数字指纹，这样Facebook就可以阻止该图像在其平台上被在线共享。这类似于现在的公司防止虐待儿童的图片被发布到他们的网站上。

然而，用于复仇色情的新AI技术并不需要受害者的参与。Facebook解释说，这很重要，因为受害者有时太害怕报复而不敢自己报告内容。其他时候，他们只是没有意识到照片或视频正在被分享。

虽然该公司缺乏关于新系统本身如何运作的细节，但它确实注意到它不仅仅是“检测裸露”。

在系统标记图像或视频后，经过专门训练的Facebook社区运营团队成员将审核该图像，如果违反Facebook 社区标准则将其删除。在大多数情况下，公司也会因此禁用该帐户。如果该人认为Facebook误判，则可以申请上诉程序。

除了技术和现有的试点计划，Facebook还表示审查了如何改善色情报复报道的其他程序。例如，研究发现，受害者希望在报告后得到更快的回应，他们不希望得到机器自动回应。其他受害者不知道如何使用报告工具，甚至不知道它们的存在。

Facebook指出，解决色情报复是至关重要的，因为它可能导致心理健康后果，如焦虑，抑郁，自杀念头甚至创伤后应激障碍。也可能会产生生活上的问题，例如失去工作和与同事的关系受损。此外，更传统的社区中的人可能会被避开或放逐，遭受迫害甚至身体受到伤害。

Facebook承认，在回应受害者的报告时，它没有找到一种方式来承认受害者所承受的创伤。
该公司表示，现在正在重新评估报告工具和流程，以确保它们更加直观、清晰和富有同情心。

它还推出了“Not Without My Consent”，这是Facebook安全中心的受害者支持中心，是与专家合作开发的。该中心将为受害者提供可以支持他们的组织和资源的访问权限，并详细说明将内容报告给Facebook的步骤。



在接下来的几个月里，Facebook表示，它还将与合作伙伴合作建立受害者支持工具包，提供更多本地和文化相关信息。

色情报复是为世界提供公共分享平台所带来的众多问题之一。Facebook今天开始承担社交媒体在许多方面的失败，其中还包括数据隐私侵权，错误信息的传播以及在线骚扰和辱骂。

首席执行官Mark Zuckerberg最近宣布了一个隐私的转折点，Facebook的产品将作为一个加密的，可互操作的消息网络连接在一起，但这一举动已经动摇了Facebook的内部，导致它在此过程中失去了顶级高管。

虽然变化符合公众的需求，但许多人已经失去了对Facebook的信任。爱迪生研究公司10年来首次发现美国Facebook使用量下降，其中 12岁及以上的美国人使用率为67％至62％。

但Facebook仍然是一个庞大的平台，拥有超过20亿用户。即使用户自己选择退出Facebook，也不会阻止他们成为色情报复或其他骚扰内容的受害者。