英文

Donut(基础尺寸模型,在DocVQA上进行微调)

Donut模型是在DocVQA上进行微调的。它在Geewok等人的论文 OCR-free Document Understanding Transformer 中介绍,并于 this repository 首次发布。

免责声明:发布Donut的团队没有为该模型撰写模型卡片,因此这份模型卡片由Hugging Face团队撰写。

模型描述

Donut由视觉编码器(Swin Transformer)和文本解码器(BART)组成。给定一张图片,编码器首先将图片编码为嵌入向量的张量(形状为batch_size,seq_len,hidden_size),然后解码器根据编码器的编码自回归地生成文本。

预期用途与限制

该模型是在文档视觉问答数据集(DocVQA)上进行微调的。

我们参考 documentation 中包含的代码示例。