推理系统的三个反馈环
从排队、缓存和批处理三个反馈环理解在线推理。
AI InferenceSystemsIndependent engineering notes / 独立工程笔记
在系统的
约束中思考。
聚焦 AI Inference、Training Systems、AI Infra 与 Agent Engineering。记录证据、取舍和可复现的工程路径。
Current focus
缓存、调度与推理服务
从运行时行为回到可观测、可验证的设计。
性能证据与系统边界
把测量、失败模式和操作约束写进系统。
Agent 工程化
关注工具接口、评审回路与可信交付。
Selected writing
Projects
Artifact Lab
面向 HTML 技术研究物的私有、不可变评审流水线。