BEiT: BERT Pre-Training of Image Transformers

• 类型：arxiv
• 标识：2106.08254
• 链接：https://arxiv.org/abs/2106.08254
• 主题：multimodal
• 主分类：engineering
• 形态：method
• 被引：3854
• 被引来源：Semantic Scholar
• S2被引：3854
• OpenAlex被引：929
• 影响力被引：484
• TLDR：A self-supervised vision representation model BEiT, which stands for Bidirectional Encoder representation from Image Transformers, is introduced, and results on image classification and semantic segmentation show that the model achieves competitive results with previous pre-training methods.
• OpenAlex ID：W3170863103
• OpenAlex DOI：10.48550/arxiv.2106.08254
• DOI：10.48550/arxiv.2106.08254
• DOI来源：OpenAlex
• 开放获取：green
• 开放获取链接：https://arxiv.org/pdf/2106.08254
• OpenAlex更新：2026-08-23
• 待LLM分类：否
• 标题中文：BEiT: 图像 Transformers 的 BERT 预训练
• TLDR中文：文章介绍了一种自监督视觉表征模型 BEiT（Bidirectional Encoder representation from Image Transformers），在图像分类和语义分割上的结果表明，该模型取得了与先前预训练方法相当的竞争性结果。
• 来源文件：
• [OpenAlex discover]
• [S2 enrich]