在当今几乎所有用于训练或推理的生成式AI应用程序中，您可能会发现Docker容器是主要的部署方法。

在洛杉矶召开的Dockercon大会上，Docker公司正在努力推出一系列旨在帮助开发人员更快地构建生成式AI应用程序的举措。

其中之一是推出一个名为GenAI堆栈的新产品，该堆栈将Docker与Neo4j图形数据库、LangChain模型链接技术和Ollama集成，用于运行大型语言模型（LLM）。此外，新的Docker AI产品还将在Dockercon上首次亮相，作为集成AI驱动见解和容器开发方向的开发者工具。

Docker对现代开发生态系统的重要性不言而喻，新的人工智能举措可能对GenAI的开发工作产生重大影响。在过去几年中，Docker已经加大了对开发人员的关注，该公司的首席执行官表示这个努力正在取得成效。

Docker首席执行官Scott Johnston说：“连续四年，Stack Overflow的开发者社区将我们评为最受欢迎和最受喜爱的开发工具，我们现在拥有来自全球各地的2000万月活跃开发者。"

Docker GenAI堆栈为开发人员带来了什么

尽管使用Docker容器来帮助共享和部署AI已经非常普遍，但Johnston表示，还需要简化GenAI应用程序的开发。

通常，GenAI应用程序都需要一些核心元素，例如矢量数据库，Neo4j现在作为其图数据库平台的一部分拥有这一功能。当然，GenAI还需要LLM，这就是Ollama提供的平台，可以让用户运行包括Llama 2在内的LLM，并在本地运行。现代GenAI应用程序通常也是多步骤的，这就是LangChain与其框架相匹配的地方。配置容器中的所有这些不同的组件使其能够协同工作通常需要一些努力，而现在通过GenAI堆栈可以极大地简化这个过程。

Docker GenAI堆栈旨在帮助开发人员及其所在企业更轻松地使用容器开始进行AI开发。通过GenAI堆栈，针对几种使用案例，包括构建具有检索增强生成（RAG）功能的支持代理机器人、Python编码助手和自动生成内容。“它是预先配置好的，准备就绪，他们（开发者）可以开始编码和实验，以推动开发的发展。”Johnston表示。

整个堆栈设计成可以在开发人员系统上本地运行，并且是免费提供的。当开发人员构建应用程序并需要部署和商业支持时，Johnston表示，Docker及其合作伙伴将提供相应的选择。

Docker AI：开发者的“机甲套装”

当今市场上不乏GenAI开发工具，流行的选择包括GitHub Copilot和Amazon CodeWhisper等。

Docker现在进入这个领域，推出了自己的GenAI工具，简称为Docker AI。与微软和其他供应商越来越多地将辅助用户的GenAI工具称为协作工具不同，Docker使用了“机甲套装”这个术语。基本思想是，开发人员在机甲套装的帮助下，拥有更强大的力量和能力来完成任务。

Docker AI已经通过Docker的专有数据——包括数以百万计的Dockerfiles、compose文件和错误日志进行了培训。Docker AI直接集成到开发人员的工作流中，以在出现错误时提供帮助。它将在开发环境中显示潜在的修复方法，并允许开发人员在提交更改之前测试修复方案。目标是为开发人员在出现问题时提供更好的故障排除和修复体验。

Johnston指出，尽管像GitHub Copilot这样的工具很有用且功能强大，但Docker AI专门调整了容器开发。

“它是基于Docker的丰富专有数据进行训练的，其他LLM无法访问这些数据，”他说。