相信很多人都听说过电信诈骗，也有为数不少的人接到过诈骗电话，但却很少有人会把诈骗与人类的智慧结晶AI联系起来。随着科技的发展进步，高科技犯罪的案例层出不穷，如今，AI似乎也难逃犯罪分子魔掌，成为了“诈骗界的新星”。

近日，国外有人用voice-mimicking软件模仿某公司的高管讲话，欺骗他的下属将数十万美元汇到秘密账户，完成了一起诈骗案。法国保险业巨头Euler Hermes没有透露那家公司的名字，但据 Euler Hermes的代表透露，那家被骗的公司经理以为真是老板给他打的电话，所以才会把24万多美元汇到匈牙利的一个账户。事情发生一段时间后，那位经理在电子邮件中表示，虽然他当时觉得汇款的命令相当奇怪，但老板的声音实在是太逼真了，他几乎本能的选择了服从。

目前，硅谷的许多巨头和人工智能初创企业都在开发这种语音合成软件，它可以复制一个人声音的节奏和语调，并被用来制作令人信服的演讲。谷歌等科技巨头，以及“超现实主义声音克隆”初创企业，如Lyrebird等规模较小的公司，都帮助改进了制作出来的赝品，使这些工具可以更广泛地免费、无限制地使用。

那些被称为“深度伪造”(deepfakes)的合成音频，，加剧了人们对新技术担忧——侵蚀公众信任、赋予犯罪分子权力、小到商业交易和家庭电话，大到总统竞选都很容易受到电脑操纵。

斯坦福大学网络政策中心（Stanford University's Cyber Policy Center）研究员、前白宫网络安全政策高级主管安德鲁·格罗托（Andrew Grotto）在奥巴马和特朗普政府时期曾表示：“犯罪分子会任何能让他们以最便宜的价格实现目标的工具。”

“那种技术在十年前还算是奇特，但现在，对于一些专业人士来说，它跟屠夫手里的刀没什么太大差别。”有人补充道。

网络安全公司赛门铁克(Symantec)的研究人员表示，他们发现至少有三个高管声音被模仿，从而被诈骗的公司。Symantec没有透露受害公司的名称，也不愿透露Euler Hermes案是否是其中之一，但他们却指出，其中一起案件的损失，总计达数百万美元。

将一个人的声音分解成不同的组成部分，然后重新排列，形成具有相似语音模式、音调的新短语，从而达到相似度近乎100%的合成声音。有人就本次AI诈骗案，发出了一个疑问：这种技术最初的目的，不是帮助工作繁忙的妈妈，给娃唱摇篮曲吗？

AI语音技术的初衷也许有很多，或许也真的包括那貌似开玩笑一般的唱摇篮曲，但可以肯定的是，其中，绝对没有诈骗这一条。