上周，开发者社区平台Replit将其名为Replit AI的一套AI产品开放给所有人使用，超过2300万开发者可以使用默认的代码补全和辅助功能。这家位于旧金山的初创公司正在迈出重要一步，将2022年10月推出的生成式AI动力的“编码伙伴”GhostWriter集成到其核心平台中，以“AI for All”（面向所有人的AI）的名义扩大了所有用户的使用范围。

Replit还发布了升级版的专有生成式AI LLM for coding（版本为 replit-code-v1.5-3b），这是一种先进的3B LLM，专注于与代码相关的任务，并经过大量数据集的训练，其中包括1万亿个令牌、30种编程语言和面向开发者的StackExchange子集。

让所有人都能使用AI

很多人，包括印度和其他地方的学生，都没有财力支付每月10美元或类似金额的GitHub Copilot等服务。获得使用AI驱动的工作流程的能力至关重要，因为将来雇主很可能会期望这些技能，或者用于创业。

Replit相信要为开源社区做出贡献。他们的目标是确保AI像计算器在数学中一样不可或缺，并努力在编码中实现AI的民主化。

“AI在编码中起着关键作用，我们设想一个未来，即使无法支付每月20美元的ChatGPT Plus，所有开发者也可以获得AI的帮助。”Replit BizOps的印度负责人Anshul Bhide在一次独家采访中告诉AIM。

与GitHub Copilot或亚马逊的CodeWhisperer不同，他们升级的LLM replit-code-v1.5-3b也是开源的，为在代码补全模型上工作的任何人提供了一个坚实的基础。“就性能而言，它在调优后与Star Coder和Code Llama旗鼓相当甚至更好。”他补充道。

今年早些时候，谷歌云与Replit合作，授予后者使用前者的基础设施和Vertex AI的权限，承诺提高生产效率，并在极短时间内实现复杂的软件编码。

与GitHub相比，Replit凭借实时协作、基于浏览器的编码和语音命令等功能有别于其它平台。这次合作凸显了谷歌在开发者社区竞争中与微软形成战略联盟的努力，以便与AI领域的现有玩家竞争。

此外，团队还使用了开发者社区中公开可用的代码。“有趣的是，研究表明数据集的大小比质量更重要。”他补充道。在高质量策划的数据集上训练一个较小的模型通常能够获得类似的模型性能。他认为，这一点很重要，因为缺乏质量数据来训练算法。

至于编程语言，Bhide表示他们专注于我们平台上一些聪明开发者使用的前30种语言，包括 Python、Java、JavaScript、C++ 等，并且在这些语言上训练模型可以增强代码补全和工作效率。

他们的专有LLM是第一个使用128个 H100-80G GPU进行训练，并作为开源发布的模型。由于当前芯片危机和高需求，这个过程面临着巨大挑战，Bhide谈到了获取这些GPU所面临的问题。他强调了在大规模AI部署中所需的基础设施变化，强调了从CPU到GPU使用的转变。

这种转变是由于AI工具对更广泛的开发者群体的更高可访问性所驱动的，从而对代码补全和模型推理的GPU容量需求更大。然而，他们强调了获取这些GPU的挑战，包括来自科技巨头和数据中心提供商的激烈竞争。需求激增，再加上NVIDIA产能有限，使得H100 GPU成为在可预见的未来宝贵而稀缺的资源，严重影响着AI的发展和部署。

印度扩张计划

对于Replit来说，印度是一个关键市场，因为印度是第二大市场，也是增长最快的市场之一。由于移动优于桌面、快速的5G互联网和对编程的兴趣日益增长等因素，该公司在印度的产品适应市场非常强。Anshul还谈到了自动编码平台的兴起以及Replit在提高开发者生产力方面的角色。

在Replit的印度战略框架下，他们强调通过建立本地服务器来解决延迟问题。这一战略举措与公司致力于满足印度受众特定需求的承诺一致。此外，Replit正积极参与本地化工作，包括在印地语中推出的“100天编码挑战”。

此外，Replit注意到其移动应用在印度学生中对编程目的的显着流行，甚至在大学课堂内也是如此。这一趋势凸显了该平台在印度教育领域的相关性和有效性。

“最终目标是为学习和技能发展提供对Replit产品的访问权，为全球范围内的就业机会和创业提供机会。”Bhide总结道。