transformer 9
- Bi-Encoder 与 Cross-Encoder:从架构差异理解检索与精排
- GPT 参数量从哪里来:结构拆解、估算公式与显存下限
- 从 Transformer 到 KV Cache:注意力、推理阶段与前缀复用
- 从词向量到 ChatGPT:预训练语言模型如何把 NLP 变成通用能力
- 从输入表示到文本生成:Transformer 三类架构与多模态 Token
- Transformer 推理系列(三):从 PagedAttention 到 Prefix Caching
- Transformer 推理系列(二):从 Prefill 到 Decode
- Softmax:把分数变成概率分布
- Transformer 推理系列(一):从 Attention 到 KV Cache