Transformer模型大盘点2023版｜前Quora工程副总裁（超长）

作者Xavier Amatriain

个人主页 曾任Quora工程副总裁，Netflix工程总监，谷歌学术列表

模型大盘点2023版地址：

Transformer models: an introduction and catalog — 2023 Edition

Transformer 进化史(时间线）

Table of Contents

• Catalog Index

• What are Transformers

  • Encoder/Decoder Architecture

  • Attention

  • Reinforcement Learning with Human Feedback

  • Diffusion Models

• The Transformers Catalog

  • Catalog Table

  • Catalog Family Tree

  • Catalog Timeline

  • Catalog List

Catalog Index

• ALBERT
• AlphaFold*
• Anthropic Assistant
• BART*
• BERT*
• Big Bird
• BlenderBot3*
• BLOOM*
• ChatGPT*
• Chinchilla
• CLIP
• CM3
• CTRL
• DALL-E
• DALL-E-2*
• Decision Transformers
• DialoGPT
• DistilBERT
• DQ-BART
• ELECTRA
• ERNIE
• Flamingo
• Gato*
• Gopher
• GopherCite
• GLaM
• GLIDE
• GC-ViT
• GPT
• GPT-2
• GPT-3
• GPT-3.5
• GPT-Neo
• GPT-NeoX
• GPTInstruct
• HTML
• Imagen
• Jurassic-1
• LAMDA*
• mBART
• Megatron
• Minerva
• MT-NLG
• OPT
• Palm
• Pegasus
• RoBERTa
• SeeKer
• Sparrow*
• StableDiffusion*
• Swin Transformer
• Switch
• T5
• Trajectory Transformers
• Transformer XL
• Turing-NLG
• ViT*
• Wu Dao 2.0
• XLM-RoBERTa
• XLNet

更多内容请点击这里