Headroom — 壓縮 LLM 工具輸出省 token

• URL: https://www.threads.com/@dooo.sth.design/post/DZTdjBTk2Ss
• Date Saved: 2025-06-08 5|- Source: Threads (@dooo.sth.design)
• Tags: ai-engineering, local-llm

Summary

帳號 @dooo.sth.design 分享開源工具 Headroom (chopratejas/headroom)。

Headroom

• GitHub: github.com/chopratejas/headroom
• Stars: 16,881
• Language: Python | Apache 2.0
• 功能：壓縮工具輸出、logs、檔案、RAG chunks，在送到 LLM 之前減少 60-95% token，但答案品質不變
• 形式：Library、Proxy、MCP Server 三種使用方式

帳號特色

@dooo.sth.design 是固定格式的 AI 開源工具推薦帳號，每篇介紹一個 GitHub repo。從 related threads 可以看到他們也推過：

• aider-desk（AI 軟體工程師平台）
• opensre（AI SRE agent toolkit）
• local-deep-research（本地深度研究，SimpleQA 95%）
• Rapid-MLX（Apple Silicon 最快本地 AI 引擎，比 Ollama 快 4.2x）
• cuML（RAPIDS ML Library）

評價

Headroom 本身概念很實用 — 對 agent 工具鏈（特別是 MCP server 回傳大量 context 的場景）有直接價值。60-95% token 壓縮率如果品質真的不掉，對成本控制很有意義。值得看看實際實現方式。