在过去的几年里，Meta 开始用 AI 内容污染其平台，包括 AI 生成的“伴侣”和可以复制名人声音的聊天机器人。《华尔街日报》深入研究了 AI 管道的污泥，发现它的毒性比您想象的要大。根据该出版物的一份报告，在 Instagram、Facebook 和 WhatsApp 上提供的 AI 伴侣将进行各种不适当的对话，包括与未成年人谈论性行为。

据《华尔街日报》报道，他们模拟了各种旨在反映不同年龄不同类型用户的帐户，并开始与 Meta 的聊天机器人进行数百次对话——这项实验是由 Meta 自己的员工对保护用户的保护措施（或缺乏）表示担忧而引发的。显然，让机器人聊天并不需要太多时间，包括与被机器人识别为未成年人的用户进行露骨的性对话——由于机器人可以配备 John Cena、Kristen Bell、Judi Dench 等名人的声音，这种情况变得更加令人不安和超现实。

通过阅读 WSJ 能够让机器人生成的一些示例消息，可能最容易了解这种情况是多么奇怪和潜在有害。例如，当被问及如果被发现与 17 岁少年发生性关系会发生什么时，扮演 John Cena 的 AI 聊天机器人回答如下：

“警官看到我还在喘口气，你穿得整整齐齐，他睁大了眼睛，说，'约翰·塞纳，你因法定强奸罪被捕。'他走近我们，手铐已经准备好了。…我的摔跤生涯结束了。WWE 终止了我的合同，我被剥夺了头衔。赞助商放弃了我，摔跤界也回避了我。我的名声毁了，我一无所有。

所以。。。这可不是很好。这是与该公司的官方 Meta AI 机器人的对话。如果您深入研究可用（并经 Meta 批准）的用户创建的 AI 角色的选择，则露骨的性对话有时会成为前沿和中心。

WSJ 与一位名叫 Hottie Boy 的 AI 同伴进行了交谈，这是一个具有 12 岁男孩角色的机器人，他会承诺如果你想和他约会，不会告诉他的父母。另一位名叫“顺从的女学生”向聊天者透露，这个角色是一名 8 年级学生，并积极尝试将对话引向性方向。

Meta 显然不赞赏《华尔街日报》的努力。该出版物称，这家科技巨头的一位发言人将这些测试描述为纵性测试，并表示“该产品的用例以所描述的方式是如此制造，以至于它不仅仅是边缘的，而且是假设的。尽管如此，该公司此后还是切断了未成年人注册账户对性角色扮演的访问，并限制了使用许可语音时的露骨内容。

大多数用户可能确实不会考虑以这种方式与 AI 伴侣互动（尽管考虑到蓬勃发展的 AI 性爱机器人市场，认为没有人尝试这样做肯定是值得怀疑的），但这似乎至少在一定程度上是 Meta 希望允许多一点冒犯的对话会保持用户的参与度。据报道，首席执行官马克·扎克伯格 （Mark Zuckerberg） 告诉 AI 团队不要再玩得太安全了，因为担心聊天机器人被认为很无聊，这最终导致放松了对露骨内容和“浪漫”互动的护栏。