您尚未登录账户请先登录您的atyun账户，方可使用该功能
您的企业账号申请正在审核中审核通过后即可使用此功能，请耐心等待~
一块小贴纸变“隐身衣”，AI：你不是人
2019年04月24日 由 bie管我叫啥 发表
646558
0
现在，一张小小的贴纸足以欺骗AI系统。简单的贴纸可以使你在AI面前“隐身”，就像身穿隐形衣，让AI无人可识。
目前人工智能监控的兴起令人极为担忧，集体追踪和识别公民的能力可能意味着公众匿名性的终结。
但是，正如研究人员一再表明的那样，有很多方法可以欺骗这些系统。
在比利时KU Leuven大学的一组工程师发布的论文中，展示了这些简单的印刷图案如何欺骗AI系统，让系统无法识别图像中的人物。
如果你打印出一个特别设计出的贴纸并遮住自己身体的一部分，从AI的角度来看，你就“不算是人”。
如上图所示，AI系统可以识别正常的人或椅子，但它无法识别用一块贴纸遮挡自己的人，当把贴纸移走时，系统瞬间识别出此人，将贴纸换到另一人身上时，系统依旧无法识别。
正如研究人员写道：“我们相信，如果我们将这种技术与精致的服装模拟结合起来，我们就可以设计出一种T恤印花，可以让一个人对自动监控相机不可见。”而这也是著名的威廉·吉布森（William Gibson）科幻小说“Zero History”中的重要情节设定。
这可能听起来很不可思议，但它实际上是AI世界中一个众所周知的现象。这类模式被称为对抗性示例，它们利用计算机视觉系统脆弱的智能来欺骗它们，让它们看不到存在的东西。
在过去，对抗性示例被用来欺骗面部识别系统。比如，只需佩戴一副特殊的眼镜，AI就会认为你是女演员Milla Jovovich。现在它们变得更简单了，只需要贴纸，打印到3D物体上，甚至被用来制作可以愚弄算法的艺术品。
许多研究人员警告说，对抗性示例具有潜在危险性。例如，它们可以用来欺骗自动驾驶汽车，或者欺骗用于识别疾病的医疗AI视觉系统。这可以用于医疗欺诈，甚至达到故意造成伤害的目的。
不过，这种对抗性补丁有一个严重的局限性，它只能欺骗一个名为YOLOv2的特定算法。它不适用于谷歌或其他科技公司开发的计算机视觉系统，但研究人员正在研究更灵活的解决方案。
这意味着至少目前，让你对所有监控系统“隐身”的T恤的想法仍然停留在科幻小说的领域。随着AI监控在全球部署，越来越多的人可能渴望重新获得匿名性，对抗性示例可能成为下一个研究潮流。
欢迎关注ATYUN官方公众号
商务合作及内容投稿请联系邮箱:bd@atyun.com
广告
广告
写评论取消
回复取消