X (@imnotchalk / Daniel Ou, Cerebras ambassador)
local-llmai-tools
Original source

Qwen3.8 27B on Cerebras — ~1500 tok/s 推論速度

Summary

  • Qwen3.8 27B 現已在 Cerebras Shared Tier 上可用,推論速度約 1500 tok/s
  • Daniel Ou 實測:寫 prompt 花的時間比模型總結整個 codebase 的時間還長
  • 附有 11 秒影片 demo
  • 1.3K likes, 68 RT — 反應熱烈
  • Cerebras 的硬體加速讓 27B 模型跑出接近即時的速度