2017年回顾:10个人工智能失败案例
2017年12月26日 由 xiaoshan.xiang 发表
562635
0
今年,人工智能程序AlphaGo和Libratus分别击败了世界上最优秀的围棋选手和扑克玩家。尽管这些里程碑表明了人工智能在近年来的发展程度,但许多人仍对新兴技术的全面成熟持怀疑态度——尤其是在过去12个月里,人工智能出现了一些问题。
我们是机器智能的爱好者,但我们也意识到一些新技术很难有效地执行任务。以下是我们对2017年失败的人工智能的总结。
由于面具而崩溃的Face ID
Face ID,即解锁新iPhone X的面部识别技术,被认为是有史以来最安全的人工智能激活方法,苹果称其被愚弄的几率为百万分之一。但随后越南公司BKAV用3d打印、硅胶、化妆品和剪纸制作的面具,将其破解。Bkav只是扫描了一个测试对象的面部,使用3D打印机来生成面部模型,并粘贴了一张眼睛和嘴巴的剪纸,还有一个硅胶鼻子。这一消息在业内引起了冲击,加大了消费者设备隐私和人工智能安全方面的风险。
亚马逊 Echo被意外激活
亚马逊Echo被认为是最稳健的智能音箱之一。但没有什么是完美的。一个德国人的Echo在他不在家的时候被意外地激活了,在午夜之后开始播放音乐,吵醒了邻居。他们给警察打了电话,警察不得不从前门破门而入,把音响关掉。警察离开时换了门锁,所以当那个人回家时,他的钥匙不能打开家门。
Facebook聊天机器人被关闭
今年7月,有报道称,两名Facebook聊天机器人在用人类无法辨认的语言相互交流后被关闭。一种新的神秘的超智能语言充斥着讨论板,直到Facebook解释说神秘的交流仅仅是由于语法编码的疏忽造成的。
拉斯维加斯的自动驾驶巴士在第一天就坠毁了
今年11月,一辆自动驾驶巴士在拉斯维加斯举行了首次公开亮相。然而,就在两小时内,这辆巴士与一辆运货卡车相撞。在技术上,巴士不必对事故负责,卡车司机也收到警方指控,但车上的乘客抱怨说,当卡车慢慢靠近时,自动驾驶汽车如果足够聪明,可以不受伤害。
谷歌Allo用头巾表情来回应持枪表情
CNN的一名工作人员通过谷歌Allo收到了一个戴着头巾的人的表情符号。这是对一个包含手枪的表情符号的回应。尴尬的谷歌向公众保证,它已经解决了这个问题,并发表了道歉声明。
汇丰银行的语音识别被孪生兄弟愚弄
汇丰银行的语音识别ID是一个人工智能的安全系统,允许用户使用语音指令访问他们的帐户。尽管该公司声称其和指纹识别一样安全,但BBC记者的孪生兄弟却通过模仿他的声音访问了他的账户,他尝试了7次。汇丰银行的直接补救措施是设置三次访问失败就锁定账户。
谷歌AI将步枪误认为直升机
通过略微调整步枪的照片,麻省理工学院的研究小组欺骗谷歌云视觉API,将图像错误的识别为直升机。这一伎俩,即不良样本,导致计算机通过引入人眼无法觉察的修改来对图像进行错误分类。过去,只有当黑客了解目标计算机系统的基本机制时,对抗的例子才会起作用。麻省理工学院的团队在没有获得这些系统信息的情况下,通过触发错误分类,向前迈出了一步。
街头标志愚弄自动驾驶汽车
研究人员发现,通过油漆或胶带的谨慎应用来阻止信号,可以欺骗自动驾驶汽车,把这些标识错误地分类。 用“爱”和“恨”这两个词修饰的停车标志,欺骗了一辆自动驾驶车的机器学习系统,在所有测试案例中,都将其误认为是“限速45”的标志。
AI为颜料提供了一些让人哭笑不得的名字
机器学习研究人员Janelle Shan训练了一个神经网络来生成新的油漆颜色以及可以“匹配”每种颜色的名称。颜色可能是令人愉快的,但名字令人哭笑不得。即使在用颜色名称数据进行少量训练之后,该模型仍然将天蓝色标记为“灰色耻骨”,将深绿色标记为“Stoomy Brown”。
不要轻易向Alexa提要求,你可能真的会得到它
亚马逊的Alexa虚拟助理可以让网上购物变得更容易。也许太容易了?今年1月,圣地亚哥新闻频道CW6报道称,一名6岁的小女孩仅仅通过请求Alexa就买了170美元的房子。这还不是全部。当电视主持人重复女孩的话时,她说:“我喜欢这个小女孩的话,‘Alexa给我订了一个娃娃屋’”,一些观众家里的Alexa装置再次被触发为其订购了玩偶屋。