BEiT（大型模型，在ADE20k上进行了精调）

BEiT模型以自监督方式在ImageNet-21k（1400万张图片，21841个类别）上进行了预训练，分辨率为224x224，并在 ADE20k （图像语义分割的重要基准数据集）上进行了分辨率为640x640的精调。该模型在《 this repository 》一文中由鲍航舶（Hangbo Bao）、董力（Li Dong）和魏复盛（Furu Wei）介绍，并首次发布于《 this repository 》。

免责声明：发布BEiT模型的团队并未为该模型撰写模型卡片，因此本模型卡片由Hugging Face团队撰写。

模型描述

BEiT模型是一种Vision Transformer（ViT），它是一种Transformer编码器模型（类似BERT）。与原始的ViT模型相比，BEiT模型以自监督方式在一系列图像上进行了预训练，即ImageNet-21k，分辨率为224x224像素。模型的预训练目标是根据被OpenAI的DALL-E的VQ-VAE编码器的视觉记号预测遮蔽补丁。随后，该模型在一百万张图像和一千个类别的ImageNet上以分辨率为224x224的监督方式进行了微调。

图像以一系列固定尺寸的补丁（分辨率为16x16）的形式呈现给模型，并进行线性嵌入。与原始的ViT模型相反，BEiT模型使用了相对位置嵌入（类似T5），而不是绝对位置嵌入，并且通过对补丁的最终隐藏状态进行均值池化，而不是在[CLS]记号的最终隐藏状态上放置线性层来对图像进行分类。

通过预训练模型，可以学习图像的内部表示，然后可以用于提取对下游任务有用的特征：例如，对于语义分割，只需在模型上添加一个可用的分割解码头（例如 mmseg library 中的解码头），并在带标注图像上以监督方式进行微调。这就是作者所做的：他们使用UperHead分割解码头对BEiT进行了微调，使其在ADE20k和CityScapes等重要基准测试中获得了SOTA结果。

使用目标和限制

您可以使用原始模型进行图像的语义分割。可以查看 model hub 以查找您感兴趣的任务的精调版本。

使用方法

以下是如何在语义分割中使用此模型的方法：

from transformers import BeitFeatureExtractor, BeitForSemanticSegmentation
from datasets import load_dataset
from PIL import Image

# load ADE20k image
ds = load_dataset("hf-internal-testing/fixtures_ade20k", split="test")

feature_extractor = BeitFeatureExtractor.from_pretrained('microsoft/beit-large-finetuned-ade-640-640')
model = BeitForSemanticSegmentation.from_pretrained('microsoft/beit-large-finetuned-ade-640-640')

inputs = feature_extractor(images=image, return_tensors="pt")
outputs = model(**inputs)
# logits are of shape (batch_size, num_labels, height/4, width/4)
logits = outputs.logits

目前，特征提取器和模型都支持PyTorch。

训练数据

此BEiT模型在 ImageNet-21k 上进行了预训练，该数据集由1400万张图像和21k个类别组成，并在 ADE20k 上进行了微调，该数据集由数千张带注释的图像和150个类别组成。

训练过程

预处理

有关训练/验证期间图像预处理的详细信息，请参阅 here 。

图像被裁剪和填充到相同的分辨率（640x640），并且通过使用ImageNet的均值和标准差对RGB通道进行归一化。

预训练

关于所有预训练相关超参数的详细信息，请参阅《 original paper 》第15页。

评估结果

关于几个图像分类基准测试的评估结果，请参阅原始论文的表1和表2。请注意，对于微调，较高的分辨率（384x384）会获得最佳结果。当然，增加模型大小将导致更好的性能。

BibTeX引用和引用信息

  author    = {Hangbo Bao and
               Li Dong and
               Furu Wei},
  title     = {BEiT: {BERT} Pre-Training of Image Transformers},
  journal   = {CoRR},
  volume    = {abs/2106.08254},
  year      = {2021},
  url       = {https://arxiv.org/abs/2106.08254},
  archivePrefix = {arXiv},
  eprint    = {2106.08254},
  timestamp = {Tue, 29 Jun 2021 16:55:04 +0200},
  biburl    = {https://dblp.org/rec/journals/corr/abs-2106-08254.bib},
  bibsource = {dblp computer science bibliography, https://dblp.org}
}