Tech Transformer 推理系列(一):从 Attention 到 KV Cache
从 Q/K/V 的投影含义、多头注意力的独立 softmax,到 GQA/MQA、Decoding KV Cache 与输出稳定性,系统梳理 Transformer 注意力机制。
从 Q/K/V 的投影含义、多头注意力的独立 softmax,到 GQA/MQA、Decoding KV Cache 与输出稳定性,系统梳理 Transformer 注意力机制。
Ctrl+J 不是现代 CLI 随便发明的怪快捷键,而是 ASCII 控制字符和终端输入传统留下来的换行语义。
顺着‘设备如何被识别、网络如何分层、数据如何流动’的主线,把家庭网络里的 MAC、BSSID、子网、NAT 和 Mesh 路由串成一幅完整图景。
在树莓派上部署 Hermes Agent,接入个人微信,并通过 Radarr API 实现'一句话远程触发电影下载'。
梳理 Raspberry Pi 5 搭配 Hailo NPU 的 AI 方案:AI Kit、AI HAT+ 与 AI HAT+ 2 的区别,视觉 AI 与本地大语言模型的实际能力,以及 1B 参数小模型在边缘场景中的价值与局限。
本地明明有 SSH 私钥,登录服务器时为什么还要输密码?一次真实排查带你理清公钥认证的原理与配置。
Perplexity 提出 Search as Code 范式,让 AI 模型用 Python 代码编排搜索工作流原语,而不是直接消费黑盒搜索结果,在复杂检索任务中实现候选更多、上下文更少。
一笔500万大客户合同,拆开来看,未必是模型公司该有的钱。
介绍 SAG(SQL-Retrieval Augmented Generation),一种用事件-实体索引替代全局静态知识图、在查询时通过 SQL join 动态激活局部超边的检索架构。
记录一次 v2ray 卡顿问题的完整排查与两次机房迁移:先从搬瓦工普通线路升级到 CN2 GIA-E,再从洛杉矶 USCA_9 迁到温哥华 CABC_6,附带全过程 benchmark 对比。