---

title: "성능 최적화：提升 Gateway 响应速度与메모리 관리 | Clawdbot 教程" sidebarTitle: "响应慢怎么办" subtitle: "성능 최적화：提升 Gateway 响应速度与메모리 관리" description: "学习如何최적화 Clawdbot 性能，包括프롬프트 캐시（Prompt Caching）、세션 프루닝（Session Pruning）、동시성 제어、메모리 관리和日志调优，降低지연、减少成本并提升响应速度。" tags:

• "성능 최적화"
• "세션管理"
• "동시성 제어"
• "内存최적화" prerequisite:
• "start-gateway-startup" order: 330

---

성능 최적화：提升 Gateway 响应速度与메모리 관리

성능 최적화是让 Clawdbot 保持快速响应、降低 API 成本和稳定运行的关键。本教程教你如何최적화 Gateway 性能，包括프롬프트 캐시、세션 프루닝、동시성 제어、메모리 관리和日志调优。

学完你能做什么

• 구성프롬프트 캐시（Prompt Caching）以大幅减少 Anthropic API 调用成本
• 启用세션 프루닝（Session Pruning）防止컨텍스트无限膨胀
• 调整동시성 제어（Concurrency）避免资源争用
• 최적화日志级别和 OpenTelemetry 采样率减少 IO 开销
• 구성메모리 플러시（Memory Flush）和 Compaction保持对话流畅
• 使用本地模型时최적화硬件구성

你现在的困境

典型症状

• 响应越来越慢：早期对话很快，越往后越慢
• API 成本飙升：同样的对话重复计费
• 内存占用高：Gateway 进程占用几百 MB 甚至 GB
• 队列积压：消息处理지연明显
• 컨텍스트溢出：频繁遇到"컨텍스트已满"错误

这些问题通常是因为：

1. 历史对话全量发送：每次请求都带上完整的对话历史
2. 工具结果堆积：长对话中每次工具调用都保留在컨텍스트
3. 无동시성 제어：多个세션同时竞争 CPU/内存/网络
4. 日志过于详细：大量 debug 日志消耗磁盘 I/O

一句话总结

최적화核心就是：减少重复计算、控制资源使用、利用캐시。

核心思路

Clawdbot 的성능 최적화围绕三个层面：

1. Prompt 层面：减少每次 API 调用的 token 数量
2. Session 层面：控制历史对话在内存中的增长
3. Gateway 层面：管理并发、日志、诊断开销

최적화优先级

최적화项	影响	难度	优先级
프롬프트 캐시	⭐⭐⭐	简单	P0（立即可用）
세션 프루닝	⭐⭐⭐	简单	P0（立即可用）
동시성 제어	⭐⭐	中等	P1（推荐구성）
메모리 플러시	⭐⭐	中等	P1（推荐구성）
日志최적화	⭐	简单	P2（调试时启用）
OpenTelemetry 采样	⭐	简单	P2（生产环境）

🎒 开始前的准备

• 确保 Gateway 正在运行：clawdbot status
• 备份当前구성：cp ~/.clawdbot/clawdbot.json ~/.clawdbot/clawdbot.json.backup
• 准备测试场景：找一个需要 AI 长对话的案例（如"帮我总结过去 7 天的工作"）

---

최적화 1：启用프롬프트 캐시（Prompt Caching）

什么是프롬프트 캐시

Anthropic API 支持프롬프트 캐시（Prompt Caching）：相同的对话历史可以캐시，避免重复计费。

适用条件

• 仅适用于 Anthropic 模型（Claude）
• 需要 세션粘性（Session Stickiness）：即同一个세션保持使用同一个认证구성
• 기본已启用（通过 auth.json 自动管理）

为什么重要

假设你让 AI 做一个需要 10 轮对话的任务：

场景	无캐시	有캐시
每轮都发送全历史	200,000 tokens × 10 轮 = 2M tokens	第 1 轮 200K，后续 9 轮 ~100K（캐시命中）
成本（Anthropic）	≈$30	≈$3.5（省 88%）
지연	每轮都需全历史	캐시命中只需发送增量内容

기본구성

好消息：如果你使用 OAuth 或 setup-token 方式구성 Anthropic，Clawdbot 기본已启用캐시。

查看当前캐시状态：

clawdbot models status --provider anthropic

你应该看到 cacheEnabled: true。

自定义캐시 TTL（可选）

如果你想控制캐시过期时间，可以在模型구성中设置：

{
  agent: {
    model: "anthropic/claude-opus-4-5",
    params: {
      cacheControlTtl: "1h"  // 1 小时캐시
    }
  }
}

注意事项

• API Key 구성也支持캐시，但需要手动设置 cacheControlTtl
• 캐시只在 Anthropic API 上有效，其他提供商不支持

---

최적화 2：启用세션 프루닝（Session Pruning）

什么是세션 프루닝

长对话会产生大量工具调用结果（如 web_search、browser、read），这些结果会不断累积在컨텍스트中。

Session Pruning 会在每次 API 调用前，自动清理过时的工具结果，只保留最新相关的部分。

如何启用

编辑 ~/.clawdbot/clawdbot.json：

{
  agent: {
    contextPruning: {
      mode: "cache-ttl",     // 使用 Anthropic 的캐시 TTL 作为修剪时机
      ttl: "5m",              // 5 分钟后开始修剪
      keepLastAssistants: 3,  // 保留最后 3 条助手消息作为保护
      tools: {
        allow: ["exec", "read", "browser"],  // 只修剪这些工具的结果
        deny: ["*image*"]  // 图片结果从不修剪（因为可能被引用）
      }
    }
  }
}

修剪逻辑

修剪效果对比

场景	无修剪	有修剪
工具调用次数	20 次都保留在컨텍스트	只保留最近 5 次有效结果
컨텍스트大小	200,000 tokens	~80,000 tokens（减少 60%）
API 调用지연	随时间增长明显	相对稳定

---

최적화 3：구성压缩与메모리 플러시（Compaction + Memory Flush）

什么是压缩（Compaction）

当컨텍스트窗口接近上限时，Clawdbot 会自动压缩（Compact）历史对话：

• 将旧对话总结为一条摘要
• 保留最近消息不变
• 摘要存储在세션历史中

什么是메모리 플러시（Memory Flush）

在压缩之前，Clawdbot 可以执行一个静默的메모리 플러시（Memory Flush）：

• 触发 Agent 主动"写入记忆"
• 将持久化笔记保存到磁盘（memory/YYYY-MM-DD.md）
• 避免摘要后丢失关键信息

구성压缩与刷新

{
  agent: {
    compaction: {
      autoCompact: true,           // 自动压缩（기본启用）
      memoryFlush: {
        enabled: true,              // 启用메모리 플러시
        softThresholdTokens: 4000, // 컨텍스트达到 4K tokens 时触发
        prompt: "Write any lasting notes to memory/YYYY-MM-DD.md; reply with NO_REPLY if nothing to store."
      }
    }
  }
}

手动触发压缩

如果感觉对话"卡住了"或컨텍스트已满，可以手动压缩：

# 在聊天中发送命令
/compact Focus on decisions and open questions

你应该看到：

🧹 Auto-compaction complete
📊 Compactions: 5

---

최적화 4：调整동시성 제어（Concurrency）

队列架构

Clawdbot 使用车道队列（Lane Queue）管理并发：

• 主车道（main）：所有세션共享
• 子车道（cron、subagent）：独立并发池
• 세션车道：每个세션有独立队列，保证顺序执行

구성全局并发

{
  agent: {
    maxConcurrent: 4,           // 全局最大并发（기본：4）
    maxConcurrentPerSession: 1  // 每세션最大并发（기본：1）
  }
}

并发选择建议

使用场景	推荐并发	原因
轻量使用（个人助手）	2-4	充分利用多核，减少响应时间
高频消息（群聊）	4-8	防止队列积压，保持低지연
资源受限（低配设备）	1-2	避免内存溢出，系统卡顿
大模型（本地 200B）	1-2	GPU 内存有限，单任务更稳定

구성消息队列模式

如果你在群聊或频道中使用 Clawdbot，可以调整队列策略：

{
  messages: {
    queue: {
      mode: "collect",        // "collect" | "followup" | "steer" | "interrupt"
      debounceMs: 1000,      // 防抖：等待 1 秒再处理
      cap: 20,                // 队列上限
      drop: "summarize"       // 超限策略："old" | "new" | "summarize"
    }
  }
}

队列模式对比

模式	行为	适用场景
collect	合并为单次 followup	避免重复响应
followup	每条消息独立处理	保持线程独立
steer	立即注入到当前对话（取消待处理）	快速响应追加内容

---

최적화 5：최적화日志与诊断（Logging + Diagnostics）

调整日志级别

生产环境不建议使用 debug 或 trace 级别，会产生大量磁盘写入。

{
  logging: {
    level: "info",              // 文件日志级别
    consoleLevel: "warn",        // 终端日志级别（更少输出）
    consoleStyle: "compact"     // 紧凑输出，减少终端渲染开销
  }
}

级别	用途	性能影响
error	仅错误	最小
warn	警告和错误	小
info	正常运行信息	中
debug	调试详情	大
trace	最详细的跟踪（每个函数调用）	极大

구성 OpenTelemetry 采样

OpenTelemetry 会导出遥测数据（metrics、traces、logs），但如果采样率过高会增加网络和 CPU 开销。

{
  diagnostics: {
    enabled: true,
    otl: {
      enabled: true,
      endpoint: "http://otel-collector:4318",
      sampleRate: 0.2,           // 采样率 20%（기본：0.2）
      traces: true,             // 导出 traces（链路追踪）
      metrics: true,            // 导出 metrics（指标）
      logs: false              // 生产环境建议关闭日志导出
    }
  }
}

生产环境建议

• 设置 sampleRate 为 0.1 - 0.3（10%-30% 采样）
• 将 logs 设为 false（日志量大，建议通过文件日志分析）
• 保留 metrics 和 traces 用于监控

使用诊断标志（Diagnostics Flags）

如果你需要临时调试特定模块，可以启用诊断标志而不是全局 debug：

# 环境变量（一次性）
CLAWDBOT_DIAGNOSTICS=telegram.http,web.fetch

# 或구성文件
{
  diagnostics: {
    flags: ["telegram.http", "web.fetch"]
  }
}

标志列表

• telegram.http：Telegram HTTP 请求
• web.search：Web 搜索工具
• web.fetch：网页抓取工具
• browser.*：浏览器操作
• memory.*：记忆系统
• *：所有诊断（慎用）

---

최적화 6：工具和网络캐시최적화

Web 搜索和抓取캐시

web_search 和 web_fetch 工具会캐시结果，减少重复请求。

{
  tools: {
    web: {
      search: {
        cacheTtlMinutes: 15    // 搜索结果캐시 15 分钟（기본）
      },
      fetch: {
        cacheTtlMinutes: 15    // 抓取内容캐시 15 分钟（기본）
      }
    }
  }
}

浏览器性能

Browser 工具会启动独立的 Chrome/Chromium 进程，기본有 2 个并发实例。

{
  browser: {
    enabled: true,
    controlUrl: "http://127.0.0.1:18791",
    concurrency: 2,               // 并发数（기본：2）
    headless: true              // 无头模式（更省资源）
    snapshotTimeoutMs: 30000    // 截图超时 30 秒
  }
}

浏览器최적화建议

• 使用 headless: true（不渲染 UI）
• 设置合理的 snapshotTimeoutMs（防止卡住）
• 如果不需要频繁截图，减少浏览器启动次数

---

최적화 7：本地模型硬件구성

如果你运行本地模型（Ollama 等），需要确保硬件구성合理。

内存要求

模型大小	GPU 内存（推荐）	系统内存（推荐）	CPU（最低）
小型（7B）	8 GB	16 GB	4 核
中型（13B）	16 GB	32 GB	8 核
大型（34B）	24 GB	64 GB	16 核

Docker 内存구성

{
  // fly.toml 示例
  [vm]
  memory = "2048mb"    // 每个实例 2GB
  cpus = 2

  // 或者
  memory = "4096mb"    // 4GB（推荐中型模型）
}

常见问题

• **内存不足（OOM）：日志显示 Out of memory，需要增加内存
• Swap 导致卡顿：尽量避免 swap，使用足够 RAM
• GPU 未利用：检查 Docker 是否映射了 GPU

---

최적화 8：监控与诊断

实时监控

# 查看实时队列深度
clawdbot logs --follow | grep "queue.depth"

# 监控세션数
clawdbot status | grep "Sessions"

定期诊断

# 运行完整诊断
clawdbot doctor

# 查看 API 使用统计
clawdbot models status --provider anthropic

你应该看到：

✓ Gateway is running
✓ 3 active sessions
✓ Last Anthropic call: 2m ago
✓ Cache hits: 85% (cost savings)

性能基线

建议记录以下指标，建立性能基线：

指标	正常范围	异常阈值
首字响应지연	< 2 秒	> 5 秒
세션컨텍스트大小	< 100K tokens	> 150K tokens
队列等待时间	< 2 秒	> 10 秒
CPU 使用率（持续）	< 50%	> 80%
메모리 사용率（持续）	< 70%	> 90%

---

踩坑提醒

❌ 不要过度修剪

问题：将 keepLastAssistants 设得太小，导致重要컨텍스트丢失。

错误示例：

{
  agent: {
    contextPruning: {
      keepLastAssistants: 0  // ❌ 会导致连续对话中断
    }
  }
}

正确做法：保留 2-5 条助手消息作为"记忆锚点"。

❌ 不要禁用压缩

问题：关闭 autoCompact 会导致컨텍스트无限膨胀。

错误示例：

{
  agent: {
    compaction: {
      autoCompact: false  // ❌ 长对话会崩溃
    }
  }
}

正确做法：保持 autoCompact: true，必要时手动 /compact。

❌ 不要使用过高的并发

问题：在低配设备上设置 maxConcurrent: 10 会导致内存溢出。

正确做法：根据硬件限制合理设置，建议不超过 CPU 核心数的 2 倍。

❌ 不要在生产环境启用 trace 日志

问题：trace 级别会产生大量日志，导致：

• 磁盘 I/O 爆满
• 日志轮转频繁
• 查询困难

正确做法：生产环境使用 info 或 warn，调试时才用 debug。

---

本课小结

本课我们学习了 Clawdbot 的完整성능 최적화策略：

核心최적화点

1. ✅ 프롬프트 캐시：减少 Anthropic API 成本 70%+
2. ✅ 세션 프루닝：控制컨텍스트增长，避免溢出
3. ✅ 压缩与刷新：自动总结历史，保存持久记忆
4. ✅ 동시성 제어：平衡资源使用，防止队列积压
5. ✅ 日志최적화：调整级别，减少 I/O 开销
6. ✅ OpenTelemetry 采样：监控而不影响性能
7. ✅ 工具캐시：减少重复网络请求
8. ✅ 硬件구성：本地模型的内存和 CPU 최적화

推荐구성模板

{
  agent: {
    model: "anthropic/claude-opus-4-5",
    params: {
      cacheControlTtl: "1h"
    },
    maxConcurrent: 4,
    contextPruning: {
      mode: "cache-ttl",
      ttl: "5m",
      keepLastAssistants: 3
    },
    compaction: {
      autoCompact: true,
      memoryFlush: {
        enabled: true,
        softThresholdTokens: 4000
      }
    }
  },
  logging: {
    level: "info",
    consoleLevel: "warn",
    consoleStyle: "compact"
  },
  diagnostics: {
    enabled: true,
    otl: {
      enabled: true,
      sampleRate: 0.2,
      traces: true,
      metrics: true,
      logs: false
    }
  }
}

预期效果

指标	최적화前	최적화后	改善
平均响应지연	3-5 秒	1-2 秒	-50%
单次 API 成本	$0.50	$0.15	-70%
内存占用（稳定）	1.2 GB	400 MB	-67%
세션稳定性	85%	98%	+13%

---

下一课预告

下一课我们将学习 完整구성参考，深入了解 Clawdbot 所有구성项的详细说明和高级用法。

你会学到：

• 所有구성节的结构和层次关系
• 每个구성项的取值范围和기본值
• 高级구성：Sandbox、Security、Gateway Network 等
• 구성验证和最佳实践

---

附录：源码参考

点击展开查看源码位置

更新时间：2026-01-27

功能	文件路径	行号
Session Pruning	src/config/zod-schema.core.ts	1750-1800
Compaction	src/config/zod-schema.core.ts	1830-1900
Memory Flush	src/config/zod-schema.core.ts	1840-1870
Queue + Concurrency	src/gateway/server-lanes.ts	1-78
Prompt Cache	src/agents/auth-profiles.ts	1-500
Logging	src/logging/index.ts	1-200
Diagnostics + OpenTelemetry	src/diagnostics/index.ts	1-300
Web Search Cache	src/agents/tools/web-search.ts	1-200
Web Fetch Cache	src/agents/tools/web-fetch.ts	1-150
Browser Concurrency	src/config/zod-schema.core.ts	1970-1980

关键구성常量：

• DEFAULT_MAX_CONCURRENT = 4：全局最大并发数
• DEFAULT_CACHE_TTL_MINUTES = 15：Web 工具기본캐시时间
• DEFAULT_OTEL_SAMPLE_RATE = 0.2：OpenTelemetry 기본采样率

关键函数：

• pruneContext()：修剪工具结果的函数
• compactHistory()：压缩历史对话的函数
• flushMemory()：执行메모리 플러시的函数
• drainLane()：队列处理函数
• updateSampleRate()：动态调整采样率的函数