Skip to content

Instantly share code, notes, and snippets.

@longtian
Last active May 18, 2026 01:55
Show Gist options
  • Select an option

  • Save longtian/c0230dd9d43c112a5c6e76dbc8dc96a9 to your computer and use it in GitHub Desktop.

Select an option

Save longtian/c0230dd9d43c112a5c6e76dbc8dc96a9 to your computer and use it in GitHub Desktop.

看病 = 一次 LLM Agent 会话


  ┌─────────────── 模型层(学过的 → 权重)───────────┐
  │  医学院 5 年        →  预训练 Pre-training       │
  │  规培 3 年          →  微调 Fine-tune / RLHF     │
  │  科室诊疗规范       →  System Prompt             │
  │  医院红线制度       →  Safety Guardrails         │
  └──────────────────────────────────────────────────┘

  ┌─────────────── 角色层 ───────────────────────────┐
  │  你(患者)         →  User                      │
  │  医生              →  Agent(推理 + 决策 + 调工具)│
  │  医生的大脑        →  Model(纯推理引擎)         │
  │  护士 / 导诊台     →  Orchestrator / Router      │
  └──────────────────────────────────────────────────┘

  ┌─────────────── 身份层 ───────────────────────────┐
  │  社保卡号          →  User ID                    │
  │  网上挂号          →  Session ID                 │
  │  挂号费            →  API 调用费                  │
  │  医保余额          →  Token Quota / Credits      │
  └──────────────────────────────────────────────────┘

  ┌─────────────── 记忆层 ───────────────────────────┐
  │  这次看诊全部对话   →  Context Window            │
  │  上周五开始的症状   →  当轮 User Input            │
  │  过敏史(系统调出) →  RAG 检索注入               │
  │  病历本(上次摘要) →  Compacted History          │
  └──────────────────────────────────────────────────┘

  ┌─────────────── 推理层 ───────────────────────────┐
  │  描述症状          →  Prefill(用户输入)         │
  │  医生追问          →  Decode(模型生成)          │
  │  你的回答          →  Multi-turn Session         │
  └──────────────────────────────────────────────────┘

  ┌─────────────── 工具层 ───────────────────────────┐
  │  抽血 / 化验 / 取单 →  Tool Use(MCP/CLI)       │
  │  刷社保卡支付       →  Tool Use(支付 API)       │
  │  转诊单            →  Agent 路由(Handoff)       │
  └──────────────────────────────────────────────────┘

  ┌─────────────── 调度层 ───────────────────────────┐
  │  排队叫号          →  Rate Limit / Queue         │
  │  专家号 vs 普通号  →  大模型 vs 小模型            │
  └──────────────────────────────────────────────────┘
  
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment