一块小贴纸变“隐身衣”,AI:你不是人

2019年04月24日 由 bie管我叫啥 发表 646580 0
现在,一张小小的贴纸足以欺骗AI系统。

简单的贴纸可以使你在AI面前“隐身”,就像身穿隐形衣,让AI无人可识。

目前人工智能监控的兴起令人极为担忧,集体追踪和识别公民的能力可能意味着公众匿名性的终结。

但是,正如研究人员一再表明的那样,有很多方法可以欺骗这些系统。

在比利时KU Leuven大学的一组工程师发布的论文中,展示了这些简单的印刷图案如何欺骗AI系统,让系统无法识别图像中的人物。

如果你打印出一个特别设计出的贴纸并遮住自己身体的一部分,从AI的角度来看,你就“不算是人”。



如上图所示,AI系统可以识别正常的人或椅子,但它无法识别用一块贴纸遮挡自己的人,当把贴纸移走时,系统瞬间识别出此人,将贴纸换到另一人身上时,系统依旧无法识别。

正如研究人员写道:“我们相信,如果我们将这种技术与精致的服装模拟结合起来,我们就可以设计出一种T恤印花,可以让一个人对自动监控相机不可见。”而这也是著名的威廉·吉布森(William Gibson)科幻小说“Zero History”中的重要情节设定。

这可能听起来很不可思议,但它实际上是AI世界中一个众所周知的现象。这类模式被称为对抗性示例,它们利用计算机视觉系统脆弱的智能来欺骗它们,让它们看不到存在的东西。

在过去,对抗性示例被用来欺骗面部识别系统。比如,只需佩戴一副特殊的眼镜,AI就会认为你是女演员Milla Jovovich。现在它们变得更简单了,只需要贴纸,打印到3D物体上,甚至被用来制作可以愚弄算法的艺术品。

许多研究人员警告说,对抗性示例具有潜在危险性。例如,它们可以用来欺骗自动驾驶汽车,或者欺骗用于识别疾病的医疗AI视觉系统。这可以用于医疗欺诈,甚至达到故意造成伤害的目的。

不过,这种对抗性补丁有一个严重的局限性,它只能欺骗一个名为YOLOv2的特定算法。它不适用于谷歌或其他科技公司开发的计算机视觉系统,但研究人员正在研究更灵活的解决方案。

这意味着至少目前,让你对所有监控系统“隐身”的T恤的想法仍然停留在科幻小说的领域。随着AI监控在全球部署,越来越多的人可能渴望重新获得匿名性,对抗性示例可能成为下一个研究潮流。
欢迎关注ATYUN官方公众号
商务合作及内容投稿请联系邮箱:bd@atyun.com
评论 登录
热门职位
Maluuba
20000~40000/月
Cisco
25000~30000/月 深圳市
PilotAILabs
30000~60000/年 深圳市
写评论取消
回复取消