最近，wired上的一篇文章在对人工智能的发展方面表达了独特的看法，文章中表达出，终结者中的情节不会出现在现实中，大家可不必惊慌。下面是对文章的翻译（不改变愿意的情况下，略有删减）：

新闻报道中常见的一个主题就是机器觉醒。最近Facebook的研究员遇到一件令人难以置信的事情——他们的机器人在用自己的语言交谈，这似乎是机器觉醒的征兆。

虽然Facebook的实验室中确实出现了能混淆句子的机器人，但这还并不足以引起人们的恐慌。他们自己的研究员都没有产生恐慌，所以我们目前同样不必担心。但媒体对这件事进行了大肆的报道，对Facebook来说的确不是那么美好的一件事。而随着机器学习和人工智能的发展，影响也将越来越大，了解我们目前所处的现状是至关重要的，算法将在战争、刑事审判和劳动市场上发挥关键作用。

我们来看一下Facebook的AI实验室实际上发生的事是这样的：研究人员正研究与人聊天的机器人，他们也正在训练这些机器人，比如玩一些简单的游戏：让它们将不同的物品进行划分。

如何教它们来玩这类游戏呢？首先，研究人员将从很多游戏中给计算机提供游戏对话，让机器人拥有谈判语言的意识；然后，将使用试错法来不断磨练机器人的技巧，例如Google的AlphaGo打败世界冠军李世石的训练方法就是这种。

但是当两个使用强化学习的机器人一起玩游戏时，它们就没有可以使用的句子，Facebook的研究员在论文中这样写道：“我们发现更新两个智能体的参数导致了他们的对话不再是人类可以理解的语言。”

下面是两个机器人让人难以忘记的对话：

Bob: i can i i everything else . . . . . . . . . . . . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to

这种奇怪的对话有时会造成成功，显然是已经学会用重复的语句来表达自己的需求。虽然看起来有趣儿，但实际却是失败的实验。他们所希望的是可以与人类正常交流的机器人，所以Facebook的研究人员又设计了新的训练计划。正是由于这套新的计划，才会有研究人员被机器人吓到的新闻出现。

Facebook的机器人与终结者里的完全不同，是很简单的，它只会做一件事：在简单的游戏中尽可能的获得多的分数，而且机器人也正在按照设定的程序在进行。

其实这并不是第一个以自己的方式即兴沟通的机器人了，在3月份，WIRED报导了OpenAI的一次实验——机器人在虚拟世界中开发出了自己的语言。Facebook的相关人员表示很失望，曲解了他们的研究，类似的事情也不是第一次发生了。

Facebook这次的实验同样也证明了当今AI技术的局限性在哪里。除非找到解决的方法，否则很难获得突破。这也是为什么研究人员不只是使用代码来定义AI系统的目标。那么，Facebook的实验中最有趣的是什么呢？是机器人开始说英语，并有能力与人进行谈判。

更加有趣的是，Facebook的机器人在某些场合下，会骗人说“对实际上并不想要的东西感兴趣”。这才是发生的真正可怕的事情——机器人可以说谎。其实，这完全不需要担心的，不仅有Facebook的机器人可以说谎，还有在扑克赌博游戏中轻易胜过人类顶尖选手的Libratus机器人。这两个系统都可以在严格限定的环境中做出令人印象深刻的事情，但却没有自我意识。机器研究很吸引人，具有无限潜能，终结者只是虚幻的而已。