注册
资讯
学习
基础知识 理论实践 学习教程
企业 招聘
下载
模型 数据集
AI工具箱
企业服务
EVA 智能HR 视频AI
ChatGPT 人工智能应用 人工智能未来 计算机视觉
热门新闻
行业 人工智能

为什么数据污染对LLM来说是一个大问题
机器人 康奈尔大学

康奈尔大学推出新的社交机器人，更柔软，更人性化
行业 人工智能

所以，能动手就别吵吵了
常用工具
火山写作

字节跳动旗下团队推出的免费AI英语写作助手
Stable Diffusion

StabilityAI推出的文本到图像生成AI
GitHub Copilot

GitHub AI编程工具
Adobe Firefly

Adobe最新推出的AI图片生成工具
文心一格

AI艺术和创意辅助平台

模型:

ai-forever/rugpt3medium_based_on_gpt2

类库:

PyTorch Transformers

语言:

ru

其他:

PyTorch Transformers
模型介绍 文件清单
英文

rugpt3medium_based_on_gpt2

该模型是由 SberDevices 团队使用transformers库在80B令牌上进行了3个时期的训练，序列长度为1024。之后，模型在2048上下文上进行了微调。

总的训练时间为16天，使用了64个GPU。测试集的最终困惑度为17.4。

作者

作者:

ai-forever

数据集大小:

1.61 GB

相关推荐