梵蒂冈也加入了人工智能的热潮。教廷发布了一本由教皇定义的人工智能伦理手册。

这份指南是教皇与圣克拉拉大学马库拉应用伦理中心的合作成果。他们共同成立了一个名为技术、伦理和文化研究所（ITEC）的新机构。ITEC的第一个项目是一本名为《颠覆性技术时代的伦理规范：操作指南》，旨在引导科技行业在人工智能、机器学习、加密、追踪等方面遵循伦理原则。



教皇和他的同僚对人工智能的看法或许出人意料。但圣西门堂牧师、ITEC顾问布伦丹·麦克圭尔神父表示，这项倡议是教会长期关切的问题的成果。他认为梵蒂冈有着独一无二的能力，能够把各方利益相关者聚集起来。

“教皇对世界和人类有着广阔的视角，他认为技术是有益的。但随着技术的发展，我们也需要面对更深层次的问题”布伦丹神父在接受记者采访时说。“硅谷各地的科技高管多年来一直向我求助，说‘你们要帮我们，有很多挑战即将到来，我们还没做好准备。’我们想利用梵蒂冈的影响力，把全球的高管召集在一起。”

许多倡导者、学者和观察者把精力放在呼吁监管机构上，而ITEC手册则走了另一条路。ITEC不是等待政府为行业制定规则，而是希望为那些正在应对人工智能最难题的科技公司内部人员提供指导。

“大家都在围绕诸如问责和透明度之类的事情达成共识，各个公司也有相似的原则”马库拉中心领导力伦理学高级主任、手册作者之一安·斯基特说。“这很好，但关于具体该怎么做以及如何将这些标准应用到技术的设计和使用上，还缺乏共识。”

总体而言，这本书主张从一开始就将围绕一系列原则的价值观建立在技术和开发技术的公司中，而不是事后再去修补问题。手册明确提出了一个公司的核心原则：确保“我们的行动是为了人类和环境的共同利益”。这当然很好，也很模糊。但ITEC手册的结构是将每个人都能认同的大思想分解成一系列具体的建议和可行的步骤。

那个核心原则被分解成七条指导方针，比如“尊重人类尊严和权利”和“促进透明度和可解释性”。这七条指导方针又被分解成46个具体可行的步骤，包括定义、例子和操作步骤。

例如，“尊重人类尊严和权利”的原则包括关注“隐私和保密性”。为了实践这个想法，书中呼吁承诺“不收集多余的数据”，并说“收集到的数据应该以一种能够最大限度保护隐私和保密性的方式存储”。它指出公司应该考虑对医疗和金融数据进行特殊保护，并关注对用户的责任，而不仅仅是法律要求。

“我们的目标是真正赋予公司内部人员权力，让他们在日常工作中，无论是写代码、技术手册还是思考工作文化方面的问题，都能遵循伦理标准”格雷格·斯基特说。“我们尽量用商业和工程师的语言来写，这样他们才会真正使用这些资源，而且这些资源也与他们之前看到的标准相似。”

梵蒂冈并不是唯一一个对人工智能和技术的未来提出重大问题的组织。就在OpenAI发布ChatGPT之后的几个月，该公司的首席执行官山姆·奥尔特曼就已经与拜登总统会面，并在国会作证，谈论如何监管人工智能。

但如果你听听那些从事技术的高管们的话，他们似乎更关注一个遥远的、假设性的未来，即机器人带来了某种形式的世界末日。近百名科技高管最近签署了一项关于我们应该如何应对人工智能的声明：“缓解人工智能对人类灭绝的风险应该与其他社会规模的风险，如流行病和核战争，一样成为全球优先考虑的问题。”

不管这些担忧有多真实（或者没有），一些批评者认为，对未来的关注是行业主导的努力的一部分，目的是让监管者分心于我们已经因为现实存在的人工智能技术而面临的问题。

幸运的是，梵蒂冈在回答我们应该如何看待末日的问题上有很多经验。布伦丹神父说，人工智能可能带来的生存威胁是严重的，但近期的人工智能问题也同样值得关注。他没有透露教皇是否使用过ChatGPT。

“必要的防范措施绝对是必要的，各国和政府也会及时实施它们”布伦丹神父说。“但这本书在加快技术设计和消费者实施方面发挥了重要作用。这就是我们试图让公司提前达到我们需要的标准的地方。”

 

来源：https://gizmodo.com/pope-francis-vatican-releases-ai-ethics-1850583076