TimeSformer（高分辨率变体，针对Kinetics-400进行微调）

这是在 this repository 年首次发布的，由 Tong et al. 在论文 TimeSformer: Is Space-Time Attention All You Need for Video Understanding? 中介绍的 TimeSformer 模型在 Kinetics-400 数据集上进行了预训练。

免责声明：发布 TimeSformer 的团队没有为这个模型编写模型卡，因此这个模型卡是由 fcakyon 编写的。

预期用途与限制

您可以使用原始模型将视频分类为 Kinetics-400 数据集中的400个可能标签之一。

如何使用

以下是如何使用此模型对视频进行分类的方法：

from transformers import AutoImageProcessor, TimesformerForVideoClassification
import numpy as np
import torch

video = list(np.random.randn(16, 3, 448, 448))

processor = AutoImageProcessor.from_pretrained("facebook/timesformer-hr-finetuned-k400")
model = TimesformerForVideoClassification.from_pretrained("facebook/timesformer-hr-finetuned-k400")

inputs = processor(images=video, return_tensors="pt")

with torch.no_grad():
  outputs = model(**inputs)
  logits = outputs.logits

predicted_class_idx = logits.argmax(-1).item()
print("Predicted class:", model.config.id2label[predicted_class_idx])

有关更多代码示例，请参阅 documentation 。

BibTeX条目和引用信息

@inproceedings{bertasius2021space,
  title={Is Space-Time Attention All You Need for Video Understanding?},
  author={Bertasius, Gedas and Wang, Heng and Torresani, Lorenzo},
  booktitle={International Conference on Machine Learning},
  pages={813--824},
  year={2021},
  organization={PMLR}
}