谷歌研究员Francois Chollet:有良知的AI研究人员不应该在Facebook工作
2018年03月23日 由 nanan 发表
274480
0
本周,由于剑桥Analytica公司的丑闻,Facebook受到了很多批评,其中一个令人意想不到的批评来源:谷歌。谷歌研究员Francois Chollet在周四发布的一系列推文中警告说,Facebook的问题不仅仅是隐私泄露的问题,而是由AI提供动力的Facebook很快就会变成“极权主义全景摄像机”。
“我们正在研究一个强大的实体,它可以建立超过20亿人类的细微心理特征,进行大规模的行为操纵实验,旨在开发世界上所见过的最好的AI技术。就我个人而言,这真的让我感到害怕,”Chollet在一个Twitter主题中表示,“如果你在AI领域工作,那么就请不要帮助他们。不玩他们的游戏,不要参与研究他们的生态系统。”
根据他在LinkedIn上的个人资料显示,他是一名软件工程师和研究人员,从2015年8月起就专注于谷歌的深度学习,也是最著名的“Keras”的第一作者,Keras是一个被世界各地数十万AI从业者所使用的开源深度学习库。
Twitter的帖子重点关注了AI领域的进展,尤其是深度学习领域的进展,这可能会导致Facebook的“大规模人口控制”。 Chollet 表示,随着AI和深度学习的不断推进,威胁也将会增加。
他写道:“人类的思维是一种静态的、易受攻击的系统,它将越来越多的受到智能AI算法的攻击,而这些算法将同时对我们所做的每一件事都有一个完整的看法,并完全控制我们所掌握的信息。”重要的是,通过将AI算法分配给我们的信息而产生的大规模人口控制——尤其是政治控制,而这并不需要非常先进的AI。你不需要有自我意识,如果超级了智能AI,这将是一个可怕的威胁。
尽管Chollet的评论值得注意,但请考虑一下立场:谷歌和Facebook都以用AI算法为用户提供内容而闻名。
在美国国会和英国议会的委员会期间,WhatsApp联合创始人Brian Acton呼吁用户删除他们的Facebook账户。
上周五,Facebook透露了剑桥Analytica公司滥用用户数据的事情,这可能有利于特朗普的总统竞选。《卫报》和其他新闻媒体的报道称,在2016年总统大选之前,其攻击目标是Facebook的5千万名用户,而Facebook在几年之前就意识到用户数据的滥用。
扎克伯格周三在接受CNN(美国有线电视新闻网)采访时表达了道歉,并承诺做出改变,同时也考虑了在国会委员会面前作证的可能性。
同样在周三,Facebook宣布了对其Facebook平台的变更,承诺对近年来访问Facebook平台数据的应用程序进行审计,并要求用户签署合同才能访问他们的Facebook帖子。