将归纳偏见注入机器学习模型,从而预测人类决策
2019年06月19日 由 董灵灵 发表
318794
0
人类的决策通常很难从理论上预测和描述。尽管如此,近几十年来,一些研究人员已经开发了旨在解释决策的理论模型,以及试图预测人类行为的机器学习模型,但准确预测人类的决策仍然是一个重大的研究挑战。
机器学习技术似乎是解决决策预测问题的理想选择,但目前尚不清楚它们是否能真正改善理论模型做出的预测。加州大学伯克利分校和普林斯顿大学的研究人员最近开展了一项研究,探索机器学习在捕捉人类行为方面的有效性。
在他们的论文中提出了一种预测人类决策的新方法,他们将其称为“认知模型先验”。
研究人员David Bourgin表示,“机器学习已经彻底改变了我们预测多个科学领域现象的能力,然而,在心理学和经济学中,用于预测目的的机器学习方法仍然相对罕见。其中一个原因是许多现成的模型需要大量的数据来训练,而行为数据集往往相当小。”
在机器学习研究中,解决与小数据集相关的问题的标准方法是限制可能的解决方案的空间。然而,这并不总是一项直接的任务,特别是在使用神经网络时,因为尚不存在处理小数据集的足够通用且易于应用的方法。
“如果我们能够以某种方式将心理学理论中的见解转化为机器学习模型中的归纳偏见,我们可能会提高可以预测某些行为现象的程度,”Bourgin说。
Bourgin等人进行的这项研究为人类决策预测的机器学习研究做出了两项重要贡献。
首先,研究人员引入了认知模型先验的概念,即利用认知心理学家建立的理论模型得到的合成数据对神经网络进行预训练。这种方法也让他们引入了第一个大规模数据集,用于训练人类决策任务的算法。
研究员Joshua Peterson表示,“我们的方法将人类行为的现有科学理论与神经网络的灵活性相结合,以适应最佳预测人类风险的货币决策,我们通过训练神经网络将行为模型转换为更灵活的形式来实现这一目标。在此步骤之后,神经网络已经几乎与行为模型一样具有预测性,现在可以在大部分进一步从人类行为的真实例子中学习。”
使用认知模型先验,研究人员在两个现有的基准数据集上获得了最先进的结果。这些研究结果表明,即使可用的数据集很小,模型确实可以做出准确的决策预测。这是通过预先训练来自认知模型的人工数据模型来实现的。
“我们的关键理论贡献是引入了一种在心理模型和机器学习方法之间进行转换的一般方法,这可以帮助研究人员将机器学习模型应用于行为数据集,我们希望这将通过提供一种评估更广泛类别的人类决策模型的方法,促进机器学习和行为科学社区之间更大的合作。”
他们还提出了一个新的数据集,其中包含了13000个决策问题中的240000个人类判断,其他研究小组可以使用这些数据来训练自己的模型。从实际角度来看,这可以为研究人员节省大量时间,而这些时间通常用于收集人类预测模型的数据。
论文:
arxiv.org/pdf/1905.09397.pdf