AI纪元卡藏era 术语卡 · 六代际
首页 › 术语卡 › 前史

前史 深度学习奠基

深度学习+GPU 范式确立到预训练范式成形。AlexNet 引爆 ImageNet,Transformer 统一底座,GPT/BERT 奠定「预训练+微调」默认流程。

2012—2019 · 全库 9 条 · 模型卡 7 张 · 事件 2 条

本时代模型卡(7)

在图鉴中按本时代筛选 →

本时代大事记(9 条)

时间条目类别改变了什么
2012-09AlexNet模型深度学习+GPU 范式确立,ImageNet top-5 错误率 26%→15.3%
2017-06Transformer (Attention Is All You Need)模型纯自注意力架构,成为 GPT/BERT 统一底座
2018-02ELMo模型上下文词表示,预训练范式先声
2018-06GPT-1模型生成式预训练+微调路线确立,9/12 任务 SOTA
2018-10BERT模型双向 MLM 预训练,「预训练+微调」成 NLP 默认流程
2019-02GPT-2模型规模律震撼+分阶段发布治理先例
2019-03ERNIE 1.0(文心初代)模型知识增强预训练开山之作,奠定百度文心系技术路线
2019Cohere 成立公司事件多伦多起步的企业级大模型公司,主打检索增强与企业私有化部署
2019Stability AI 成立公司事件以开源权重路线引爆图像生成生态,模型累计下载超 3.5 亿次

时间线 前史 段 ↗

六时代总览 →API时代 →
AI纪元卡藏 · 路普Loop 站点家族 · 数据源=T-CLAW-14 代际库 106 条 · 滇ICP备2023002020号-2