Tech Transformer 推理系列(一):从 Attention 到 KV Cache
从 Q/K/V 的投影含义、多头注意力的独立 softmax,到 GQA/MQA、Decoding KV Cache 与输出稳定性,系统梳理 Transformer 注意力机制。
从 Q/K/V 的投影含义、多头注意力的独立 softmax,到 GQA/MQA、Decoding KV Cache 与输出稳定性,系统梳理 Transformer 注意力机制。
从磁化状态、NAND 阈值电压和 DRAM 电容电荷出发,对比机械硬盘、固态硬盘与内存的读写原理、访问粒度、性能、容量、成本和断电保持能力。
从 GPU 的显存带宽需求出发,理解 HBM 为什么选择超宽接口,以及硅中介层、TSV、微凸点、底部填充、散热和混合键合如何实现高带宽与大容量。
从任务依赖和机器学习的并行计算出发,理解 CPU 为什么追求关键路径低延迟、GPU 为什么追求并行吞吐,以及位宽、每针脚数据率和通道数如何决定内存带宽。
基于 AI Trends (July 2026) — AI Trend Analysis, LLM Statistics & Industry Insights 最新数据快照,逐图解读 48 张 AI/LLM 趋势图表及其比较边界。
对比 OpenAI、Anthropic 与国产旗舰模型的 API 价格,并用三种坐标尺度解释价格分布。
从 Zleap-Agent 看本地小模型如何通过工作区、工具隔离、记忆治理和运行轨迹构建可控的 Agent Harness。
Ctrl+J 不是现代 CLI 随便发明的怪快捷键,而是 ASCII 控制字符和终端输入传统留下来的换行语义。
顺着‘设备如何被识别、网络如何分层、数据如何流动’的主线,把家庭网络里的 MAC、BSSID、子网、NAT 和 Mesh 路由串成一幅完整图景。
在树莓派上部署 Hermes Agent,接入个人微信,并通过 Radarr API 实现'一句话远程触发电影下载'。