Threads (@krumjahn)
ai-engineeringdev-tools
Original source

Code2LoRA — 把 Repo 知識燒進 LoRA Adapter 省 Token

Summary

Code LLM 最貴的問題:每次 query 都要把整個 repo 塞進 context,token 費用燒很快。

Code2LoRA 的做法:

  • 把 repo 知識直接壓進 LoRA adapter
  • 推理時不用再傳 token
  • 等於把 repo 知識「燒進」模型裡
  • 大型 codebase 推理成本降到幾乎零

CodeGraph (395 讚,最熱)

  • 把程式碼專案轉為「知識圖譜」
  • 利用程式既有邏輯關係(非 LLM 語意)
  • Claude 直接查圖,不用慢慢 grep
  • 成本便宜 35%、token 少 59%、速度快 49%、工具調用減 70%
  • 可完全本地運行

三種工具實測對比 (@ci.fullstack, 250 檔 repo)

ToolToken 消耗輪次備註
code-review-graph127K2 輪最省,微贏 baseline
codegraph328K5 輪翻倍
graphify570K未完成LLM 語意抽取,太貴停下來

關鍵洞察:tree-sitter 純語法索引幾乎不花錢;LLM 語意抽取 repo 一大就燒不起。

Claude Dynamic Workflows (Opus 4.8)

  • /effort → ultracode + prompt 加 “workflow”
  • 自動寫腳本、啟動數百個平行子代理互相驗證除錯
  • Token 消耗極暴力,大型任務跑幾小時
  • 適合程式碼庫遷移等原本耗整天的任務

省錢組合 (Fable 5 + Opus 4.8)

  • Fable 5 當大腦拆需求(便宜)
  • Opus 4.8 當雙手寫 Code(貴但精準)
  • 分階段:Fable 拆任務 → Opus 執行 + 測試