基于 Transformer 的编码器-解码器模型详解

Hugging Face 发布博客，详解基于 Transformer 的编码器-解码器架构如何建模序列到序列问题，重点拆解编码器与解码器两部分及其推理用法。文章指出该架构由 Vaswani 等人提出，如今已是 NLP 领域事实上的标准，T5、Bart、Pegasus、ProphetNet、Marge 等预训练目标各异但架构基本未变。