AI纪元卡藏卡藏图鉴 · 全量卡池
首页 › 图鉴 › BERT

BERT

前史语言LR 传说

Google · 2018-10 · 全球 · 第 5/103 张

这张卡改变了什么

双向 MLM 预训练,「预训练+微调」成 NLP 默认流程

来源:官方来源 ↗

周边定制 →
这张卡改变了什么

双向 MLM 预训练,「预训练+微调」成 NLP 默认流程

规格参数

340M 参数(论文原文)

档案

机构
Google
时间
2018-10
地区
全球
稀有度依据
范式奠基关键词
来源

同时代其他卡

AlexNetTransformer (Attention Is All You Need)ELMoGPT-1GPT-2ERNIE 1.0(文心初代)

← GPT-1前史 全部卡 →GPT-2 →
AI纪元卡藏 · 路普Loop 站点家族 · 数据源=T-CLAW-14 代际库 106 条 · 滇ICP备2023002020号-2