YYYLEGEND - Sena Lab

精选文章

值得先读的几篇

查看全部

AI 工程

银行问答系统的两条查询路径

从真实业务问题出发，记录一个同时处理制度文档和授信指标查询的问答系统如何分流、检索、生成和校验。

推理部署

22GB 单卡推理实验记录

在 RTX 2080 Ti 22GB 上测试 Qwen3.5-9B AWQ，先算显存，再比较速度、长上下文和缓存收益。

模型训练

参考 MiniMind，从一个 Token 开始理解 Transformer

参考 MiniMind 的结构，从一个 Token 的流动开始拆解 Decoder-only Transformer。

模型写完 SQL 以后，系统还要做什么？

2026-09-18

AI 工程

Text2SQL

SQLGlot

安全

Agent

SQL 生成只是开始，真正决定系统是否可靠的是生成之后的校验、执行和结果解释。

1031 字

5 分钟

22GB 单卡推理实验记录

2026-09-17

推理部署

vLLM

推理部署

性能实验

CUDA

在 RTX 2080 Ti 22GB 上测试 Qwen3.5-9B AWQ，先算显存，再比较速度、长上下文和缓存收益。

1049 字

5 分钟

llama.cpp 参数怎么选：先算显存，再谈命令

2026-09-16

推理部署

llama.cpp

推理部署

KV Cache

性能

模型是否跑得动、速度是否正常、上下文能开多长，都可以从带宽和 KV Cache 的约束推出来。

2990 字

15 分钟

算法刷题日记归档

2026-09-13

归档

算法

SQL

LeetCode

归档

将早期按天记录的算法与 SQL 学习笔记集中归档，保留每篇原文入口。

373 字

2 分钟

参考 MiniMind，从一个 Token 开始理解 Transformer

2026-09-12

模型训练

MiniMind

Transformer

PyTorch

模型训练

参考 MiniMind 的结构，从一个 Token 的流动开始拆解 Decoder-only Transformer。

1760 字

9 分钟

银行问答系统的两条查询路径

2026-09-12

AI 工程

RAG

Text2SQL

Agent

项目复盘

从真实业务问题出发，记录一个同时处理制度文档和授信指标查询的问答系统如何分流、检索、生成和校验。

7896 字

39 分钟

回答已经返回，为什么请求还没结束？

2026-09-05

工程复盘

mini-sglang

测试

可观测性

API

流式接口正常返回后，内部状态仍可能残留。一次 API 生命周期测试定位并修复了这个问题。

1153 字

6 分钟

vLLM 推理部署：从三条约束推一遍

2026-08-30

推理部署

vLLM

推理部署

KV Cache

第一性原理

从自回归、显存带宽和容量三条约束出发，理解 KV Cache、PagedAttention 和推测解码为什么会出现。

3574 字

18 分钟