快速进步的生成式人工智能（GenAI）已经引起了全世界政府的关注，许多组织热衷于利用这项强大的技术来解决复杂的挑战并改善公共服务。

然而，与GenAI实施相关的复杂性和挑战可能会阻碍政府机构有效采纳和利用这种变革性技术的能力。

GenAI的经济影响预计将是惊人的。麦肯锡公司估计，到2030年，GenAI每年可能为全球经济增加2.6万亿至4.4万亿美元。这种变革潜力涉及多个行业，包括制造业、金融、医疗保健、零售业和许多创意产业。

解决GenAI可能带来的风险

GenAI给政府机构带来了重大风险，包括滥用政治宣传、损害国家安全、泄露机密数据、传播不准确信息、缺乏透明度、遭受网络安全攻击的风险，以及公众信任受到侵蚀。

滥用政治宣传

GenAI生成和操纵信息的能力使其容易被滥用于政治目的，例如创造假新闻或传播虚假信息以影响舆论或左右选举。

损害国家安全

GenAI生成逼真假内容的能力可能被利用来创建深度伪造内容或操纵敏感信息，可能会损害国家安全和安全措施。

泄露机密数据

为训练GenAI模型所需的大量数据可能构成重大安全风险，如果机密政府信息无意中被引入训练过程，可能导致数据泄露或泄漏。

传播不准确的信息

GenAI生成看似合理的文本和图像的能力可能会被用来散布错误信息或伪造虚假证据，可能会破坏公众对政府机构的信任。

缺乏透明度

GenAI的决策过程通常是不透明的，这使得很难理解模型的基本逻辑并评估其输出的准确性。这种缺乏透明度可能会引发对滥用和问责的关切。

网络安全攻击的风险

GenAI依赖复杂的算法和大型数据集，这使其容易受到网络攻击，潜在的恶意行为者可能会操纵或控制GenAI模型。

侵蚀公众信任

GenAI的滥用或传播不准确的信息可能会侵蚀公众对政府机构及其提供可靠和值得信赖的服务的信任。

为了应对这些风险，政府正在制定规章制度和政策框架，开展意识提升计划，并就安全和道德使用提供指导。

开发国家级GenAI基础模型

开发GenAI的基础模型是一个复杂且资源密集的过程。政府往往缺乏人才、计算能力和专业知识来有效构建和管理这些模型。因此，许多政府选择与专门从事GenAI的私营部门公司合作，以便访问和定制模型以满足他们的特定需求。

基础模型是GenAI的基石，为广泛的应用提供基础设施。这些模型需要大量的计算资源、专业知识和大量数据来训练和维护，而缺乏这些资源和能力的政府，使得独立开发和管理基础模型成为一项挑战。

麦肯锡的文章指出，公共部门机构刚开始进入GenAI领域时，应从小处着手，确定风险立场，识别并优先考虑用例，选择底层模型，并确保必要的技能和角色。他们还应与最终用户共同开发GenAI应用程序，保持人类参与，设计全面的沟通计划，并逐步扩展。