Tech Transformer 推理系列（一）：从 Attention 到 KV Cache

从 Q/K/V 的投影含义、多头注意力的独立 softmax，到 GQA/MQA、Decoding KV Cache 与输出稳定性，系统梳理 Transformer 注意力机制。

2026/06/12 tech, ai

Tech 用 Transformers 直接运行聊天模型：从 Chat Template 到编码、生成与解码

以固定版本的 Qwen3-0.6B 实测，拆解 Transformers 直接推理时的 apply_chat_template、encode、tokenizer 调用、generate、decode 和 batch_decode，展示参数如何改变消息格式、token IDs、张量和最终文本。

2026/10/19 tech, llm

Tech OpenAI API 与模型输入：Chat Template、上下文管理和推理框架

从接入模型、适配输入、多轮对话和工具任务的实际困难出发，理解 OpenAI API、Chat Template、vLLM/SGLang 与上下文管理的分工，并对照 Qwen3、Llama 3.1、DeepSeek V3 的输入格式，解释 Chat Completions 到 Responses 的演进。

2026/10/19 tech, llm

Tech Qwen3 Reranker 如何打分：从 Chat Template 到 yes/no 概率

借一次换行符引发的重排退化，拆解 Qwen3 Reranker 如何把问题和文档变成相关性分数：Chat Template、下一 token 的 logits、yes/no 归一化、rerank 与 pooling 请求，以及原始 0.6B 模型的 CPU 验证实验。

2026/10/15 tech, rag

AI 从 Skill 文件理解 Google OKF：格式、字段与知识交换

从一份自包含的订单 Skill 出发，区分知识复用与格式标准化，再通过示例说明 OKF 的字段、知识包和计算契约，以及何时值得采用这套知识交换约定。

AI Jev：面向软件的判断模型与 Rerank 实践

同样理解自然语言，大模型面向人的表达，Jev 面向程序的判断：从三个原语、完整调用到 Agent 平台分工与 Rerank 实测。

2026/09/22 ai, models

Tech 表格 RAG 方案调研：Excel 与 Markdown 的解析、切块和召回

对照 Unstructured、Docling、RAGFlow、LangChain、LlamaIndex 和 Azure 的官方文档与源码，用同一份虚构表格展示实际预处理表示、切块参数、召回路径及能力边界。

2026/09/22 tech

Tech Ragas 与 TREC 的评测思路：标准从哪里来，覆盖怎么算

从一次知识漏召回出发，理解 Ragas 与 TREC 的不同目标、标准构建和覆盖判定，进而设计适合私有知识库的 Evidence 评测与定位方法。

2026/09/20 tech, rag

Tech Spec 驱动开发：用 Spec Kit 串起需求、实现与验收

先理解 Spec、Plan、Tasks、Validation 的分工，再用共享相册案例完整走过需求、方案、实现、验收与需求变更，最后介绍 Codex 接入和团队协作。

2026/09/09 tech, tools

Tech MCP 是不是也是 HTTP？用 Memos 示例对比 MCP 与 REST

按 MCP 2026-07-28 规范，以 Memos 为例对比 REST 与 MCP 的请求响应、工具发现和输入输出契约，解释 stdio、Streamable HTTP，并以 HATEOAS 番外区分操作发现与业务决策。

2026/09/09 tech