微软正处于其AI时代。该公司进行了一系列的整合，将OpenAI的模型引入了Office，必应，甚至Windows。现在，这家科技巨头正在开源一套工具，让所有开发者都能享受这种AI集成的水平。微软最近发布了TypeChat，一个旨在用AI的力量增强传统UI的软件工具库。



通过针对LLM的代码生成能力，微软的研究人员创建了一个可以帮助AI算法与应用程序通信的系统。这样，用户就可以依靠自然语言输入来与软件交互，除了现有的UI元素之外。更重要的是，以真正的开源方式，这个工具包可以与开发者选择的任何LLM一起使用，向世界打开了AI驱动应用程序的大门。

正如微软试图通过将AI紧密集成到每天被数百万人使用的应用程序中来创造计算的未来，它也在推动一个开发者运动，以实现AI在日常应用程序中的更大集成。

TypeChat说明

在将LLM集成到软件中方面，开发者面临的最大问题之一是语言模型很少给出机器可读的文本。即使当用户提示模型提供结构化数据时，LLM也表现不佳。然而，微软的团队发现，这些生成式AI算法在将用户查询转换为JSON（JavaScript对象表示法）格式方面表现得还不错，这对机器来说非常好用。

微软在博客中提供的例子中，LLM能够准确地将客户的订单转录为一个基本没有错误的JSON输出。为了确保这种情况反复发生，他们进一步完善了这种技术，通过在输出中添加一个类型要求。例如，当要求以一个预定义的输出类型“Response”回答时，LLM为查询创建了一个更加精细和结构化的输出。

这段代码也可以由TypeScript编译器验证，这是研究人员使用的编译器。这为在应用程序的工作流中使用干净、结构化和机器可读的输出铺平了道路。这种方法，暂时称为“响应模式”，可以用于各种不同的应用程序，通过为每个用例明确定义一个模式。一些展示的应用程序有情感分析、通过“API模式”创建应用程序和用于结构化输出的“数据模式”。

如前所述，该项目不仅是开源的，而且还有管道可以插入不同的LLM。虽然它是基于OpenAI API和Azure OpenAI服务构建的，但研究人员明确提到它可以与“任何聊天风格的API”一起使用。然而，他们也表示TypeChat最适合与那些既训练了散文又训练了代码的模型一起使用。TypeChat只是当前处于高度增长环境中最新发布的公告之一，使开发者能够创造未来的应用程序。

未来的AI工具

TypeChat只是LLM集成工具的最新成果之一。可以说，这个领域是由LangChain的推出而引发的，过去几个月里，这个领域经历了极大的创新。甚至AI代理，它们曾经在AutoGPT和Baby AGI等产品中大放异彩，也可以归类为AI工具。此外，由于像PineCone和Weavite这样的向量数据库系统的出现，LLM在解析大型数据库方面也变得更加强大。

软件领域中任何成功的创新都会被开发者生态系统中的运动所放大。开源开发工具的力量是非常明显的，正如我们看到围绕Meta的LLaMA模型的爆炸性创新一样。甚至科技巨头的高管也承认，顶尖的AI公司没有了护城河，开源最终会取胜。

根据红杉资本的一项调查，只有15%的受访者从头开始或使用开源构建了自定义语言模型。然而，有38%的人对LLM周边的应用程序开发框架感兴趣，而且有高达94%的人使用预训练模型。另一个有趣的发现是，88%的受访者表示，像向量数据库这样的检索机制是技术栈中的一个关键部分。

这显示了这个领域对更多面向开发者的LLM工具有着强烈的需求。在2023年微软Build大会上，该公司宣布了一系列开发工具，从采用OpenAI的插件标准到增强WinML API。

这些工具也服务于与TypeChat相同的垂直领域，针对那些想要构建AI应用程序的开发者。随着这个生态系统的崛起，开发者很快就会拥有创建应用程序的工具，这些应用程序可以通过一个简单的文本框与AI集成，并将多个模型链接在一起，将创造出一种只能在科幻小说中出现的AI。

 

来源：https://analyticsindiamag.com/microsoft-typechat-will-create-the-apps-of-the-future/