利用量子计算保护人工智能免受攻击

2023年08月15日 由 samoyed 发表 244 0

机器学习是人工智能的一个领域,计算机模型通过消耗大量数据成为各种任务的专家。例如,现代国际象棋人工智能不需要由人类大师教授国际象棋策略,而是可以通过与自己的复制品进行数百万次对弈来独立“学习”这些策略。


using-quantum-computin


在写下明确指令即使不是不可能,也是不切实际的情况下,这一点就显得弥足珍贵了——你如何定义一个数学函数来告诉你一幅画中是猫还是狗呢?


人类的孩子从来没有学习过任何这样的函数,而是看到了许多猫和狗的例子,然后最终形成了对它们之间差异的理解。


机器学习就是在计算机中复制这个过程。


但是,尽管它们取得了极大的成功,并得到了越来越广泛的应用,但基于机器学习的框架仍然极易受到对抗性攻击——也就是说,恶意篡改它们的数据,导致它们以意想不到的方式失败。


例如,图像分类模型(通过分析照片来识别和识别各种各样的标准)往往会被精心设计的输入图像改动(称为扰动)所欺骗,这些更改非常小,以至于人眼无法察觉。


机器学习神经网络持续易受此类攻击,也引发了人们对在可能威胁生命的情况下部署机器学习神经网络的安全性的严重质疑。包括像自动驾驶汽车这样的应用,在自动驾驶汽车中,系统可能会被一个无害的停车标志上的涂鸦弄混,从而导致汽车驶过十字路口。


在人工智能的开发和部署迅速发展的关键时刻,我们的研究团队正在研究如何利用量子计算来保护人工智能免受这些漏洞的影响。


机器学习和量子计算


量子计算的最新进展让人们对用量子计算机增强机器学习的前景感到非常兴奋。各种“量子机器学习”算法已经被提出,包括标准经典方法的量子泛化。


泛化指的是学习模型正确适应新的、以前未见过的数据的能力。


据信,量子机器学习模型可以比任何为当前或“经典”计算机设计的模型更快地学习某些类型的数据。


普通计算机处理的数据位要么是“0”,要么是“1”——一个两级经典系统。


量子计算机使用的是“量子比特”,即两级量子系统的状态,它具有奇特的附加特性,可以利用这些特性比经典系统更有效地解决某些问题。


然而,不太清楚的是,这些加速将有多普遍,以及量子机器学习在实践中有多有用。


这是因为,尽管量子计算机有望有效地学习比经典计算机更广泛的模型,但不能保证这些新模型对大多数人们真正感兴趣的机器学习任务有用。这些问题可能包括医学分类问题或生成式人工智能系统。


这些挑战促使我们的团队考虑除了提高效率或准确性之外,量子计算还能为机器学习任务带来哪些其他好处。


保护AI免受攻击


在《物理评论研究》(Physical Review Research)上发表的最新研究成果表明,量子机器学习模型可以更好地抵御经典计算机产生的对抗性攻击。


对抗性攻击通过识别和利用机器学习模型使用的特征来工作。


但是,通用量子机器学习模型使用的特征是经典计算机无法访问的,因此,仅用经典计算资源的对手是看不见的。


通过同时使用经典网络和量子网络,这些想法也可以用于检测对抗性攻击的存在。


在正常情况下,两个网络应该做出相同的预测,但在存在攻击的情况下,它们的输出将出现分歧。


虽然这是令人鼓舞的,但量子机器学习仍然面临着重大挑战。其中最主要的是传统计算硬件和量子计算硬件之间的巨大能力差距。


今天的量子计算机仍然受到其尺寸和高错误率的严重限制,这使它们无法进行长时间的计算。


艰巨的工程挑战仍然存在,但如果这些挑战能够克服,大规模量子计算机的独特能力无疑将给广泛的领域带来变革。

文章来源:https://techxplore.com/news/2023-08-quantum-ai.html#google_vignette
欢迎关注ATYUN官方公众号
商务合作及内容投稿请联系邮箱:bd@atyun.com
评论 登录
热门职位
Maluuba
20000~40000/月
Cisco
25000~30000/月 深圳市
PilotAILabs
30000~60000/年 深圳市
写评论取消
回复取消