您尚未登录账户
您的企业账号申请正在审核中
McAfee推出新AI技术对抗音频深度伪造威胁
在CES 2024年的展会上，网络安全公司McAfee推出了一项旨在保护消费者免受日益增长的深度伪造音频诈骗和虚假信息威胁的新型AI技术。
这项名为“Project Mockingbird”的系统采用高级AI模型来分析视频，并判断其音频是否可能已被深度伪造技术操纵。早期测试显示，McAfee的检测系统在识别被人为生成、假冒真实人声的假音频方面的准确率超过90%。
该公司强调，需要抵御滥用生成式AI工具的现象，这些工具让犯罪分子能够相对容易地创造令人信服的假音频。这些令人信服的“声音深度伪造”随后可以用于定向诈骗，比如冒充家庭成员索要金钱，或通过篡改公众人物的真实镜头来传播虚假信息。
据McAfee公司首席技术官史蒂夫·格罗布曼(Steve Grobman)表示，Mockingbird的工作原理是通过上下文、行为和分类检测模型运行音频。这种多层次的AI方法在区分真实音频和声音深度伪造方面提供了无与伦比的能力。
格罗布曼称，该技术将为消费者提供一个有价值的工具，以评估恶意伪造的可能性，就像天气预报一样。“所以，就像70%的降雨几率可以帮助你计划你的一天一样，我们的技术为你提供了洞察力，使你能够就内容是否真实作出明智的决定。”他说。
公司将这个解决方案定位为使用AI保护在线隐私和身份的下一个发展方向。McAfee实验室开发了这个系统，以预防网络犯罪分子越来越多地使用廉价造假和声音深度伪造技术。
Mockingbird的早期演示正在本周的CES 大会上由McAfee展示。此次发布之际，公众对先进深度伪造技术的担忧日益加剧。
通过利用AI来赋予公众识别声音深度伪造的能力，McAfee旨在遏制潜在滥用，同时仍允许生成式AI技术的创新。Mockingbird代表了在建立全面针对AI虚假信息的安全保障方面迈出的重要一步。然而，还必须认识到这个领域存在的固有挑战。
检测AI生成的内容，特别是深度伪造作品，是出了名的困难。麻省理工学院媒体实验室的“检测深度伪造”(Detect DeepFakes)项目强调了区分真实媒体和AI操纵媒体涉及的复杂性。没有单一的明显迹象来识别一个假作品，而是需要识别一系列微妙的迹象。由主要科技公司和学术机构领头的深度伪造检测挑战（DFDC）突出了这一复杂性，旨在推进检测深度伪造技术的创新。
尽管McAfee声称Mockingbird拥有很高的准确率，但事实上，有效检测深度伪造技术的斗争还在进行中。AI生成内容的不断发展意味着，像Mockingbird这样的工具是必要的，但它们是持续对抗数字欺骗行为更大努力的一部分。随着AI领域的持续进步，创造和检测深度伪造之间的竞赛无疑将是一个持续的挑战。
