从词向量到 Transformer：RNN、CNN、Self-Attention 与 QKV 的系统理解

medicago.19@outlook.com (medicago) — Tue, 15 Sep 2026 01:33:43 +0800

从词向量到 Transformer：RNN、CNN、Self-Attention 与 QKV 的系统理解

Author: medicago(medicago.19@outlook.com)

阅读主线： Embedding 解决“怎样表示”，Attention 解决“从哪里获取信息”，Value 的加权和完成“信息聚合”。本文以 Tom loves his dog 为例，把这些概念串成一条完整的计算链。

Published on 2026-09-15 at 🌸沐雪-medicago🎀, last modified on 2026-09-15

Transformer on 🌸沐雪-medicago🎀

从词向量到 Transformer：RNN、CNN、Self-Attention 与 QKV 的系统理解

从词向量到 Transformer：RNN、CNN、Self-Attention 与 QKV 的系统理解