在Facebook中，被成千上万人浏览的视频里，CNN的Wolf Blitzer似乎在兜售一种糖尿病药物。在另一个视频中，“CBS Mornings”的主持人Gayle King似乎在推销减肥产品。

但这些视频都是经过篡改的——这是最近大量deepfake影像的最新案例，这些伪造影像使用受信任新闻人物的形象，并用它们在虚假广告上，这破坏了人们对新闻媒体的信心。

近几个月来，类似的社交媒体帖子使用了Fox News的人物Jesse Watters，CBC主持人Ian Hanomansing，以及BBC的明星Matthew Amroliwala和Sally Bundock等众多知名人物的形象。

有很多被利用的新闻人士已经用他们自己的账户来进行反驳。

King在十月份的Instagram上说：“我从未听说过这种产品也没用过它！”

在看到关于他自己似乎在推广大麻产品的视频剪辑之后，CNN的医学通讯员Sanjay Gupta也发出了警告：“这些骗局与我无关……我主要关心的是你的健康，我确实担心你在使用这些产品时可能会受到伤害。”

这些经过篡改的视频推销了从未经证实的治疗方法到投资计划——承诺了“保证收益”或可以获得梦寐以求的股份。有些视频还使用了特斯拉和SpaceX创始人亿万富翁Elon Musk的更改过的镜头。

一些视频中包含了指向投资计划、未获批准的产品或与之无关的电子商务网站的链接，这些链接在几天后就消失了。

Facebook和Instagram的母公司Meta自2020年初以来已禁止deepfake内容，但对于恶搞和讽刺则有例外。其他平台也有类似的政策。

但是许多类似的剪辑仍在网上传播。

声音克隆

“我已经看到这种类型视频的增加，在这些视频中克隆一个人的声音，仅需两分钟他们的声音，然后他们的任何其他视频都可以被修改，使嘴型与新的音频一致，”加州大学伯克利分校专门从事数字取证的教授Hany Farid表示。

由于质量低下，一些deepfake作品很容易被检测出来。然而，专家警告说技术正在改进——电视名人因为有大量可用于训练AI程序的镜头而成为容易的目标。

这种趋势令人担忧，因为“人们已经习惯像信任朋友一样信任新闻主播，”根据密西西比大学新闻学院院长Andrea Hickerson的说法。

她说：“这非常危险，因为人们没想到错误信息和虚假信息会以这种方式出现。它看起来像是传统新闻媒体。”

“信任危机”

AI操纵的内容已成为投资欺诈的日益增长的一部分，这在2022年造成美国消费者约38亿美元的损失。

据报道，这类骗局在加拿大、澳大利亚和其他国家瞄准了受害者。在某些情况下，它们让个人损失几万万或者几十万美元。

“随着犯罪分子将传统手法与涉及加密货币和人工智能的在线骗局结合起来，骗局变得越来越复杂，”律师Chase Carlson今年早些时候在博客文章中说。

美国人越来越担心在线使用AI——特别是当涉及政治。

根据Axios和商业情报公司Morning Consult在九月份进行的一项民意调查显示，超过50%的人预计这种谎言会影响2024年选举结果。

乔治·华盛顿大学数据、民主与政治研究所所长Rebekah Tromble说，这种类型的错误信息“激起了对信息和机构信任的更广泛关切。”

根据十月的Gallup民意测验，只有大约三分之一的美国人对新闻媒体“非常”或“相当”有信心，与2016年的最低水平持平。

Tromble指出，许多在线流传的经过篡改的剪辑是质量低下的“廉价伪造品”，但它们仍然导致了“信任危机”。她敦促新闻消费者在社交媒体上分享这些帖子之前要小心。

“不过这也带来了一些好处，有了健康的怀疑态度，我们就可以识别哪些是错误信息，”她说。