Apple Core AI Models — iPhone/Mac 本地跑開源模型

• URL: https://www.threads.com/@xiaoxiunique/post/DcKZ1Mkke-i
• Date Saved: 2026-08-18
• Source: Threads (@xiaoxiunique)
• Tags: local-llm, ai-tools
• Repo: https://github.com/apple/coreai-models

Summary

• Apple 官方開源 coreai-models：一條命令把 HuggingFace 模型導出為設備可直接加載格式
• 全程不聯網，100% 跑在 Neural Engine 上，數據不離開設備
• 支持模型：Qwen3、Gemma 3、Mistral、GPT-OSS、FLUX.2、SD 3.5、Whisper
• 自動處理量化壓縮、精度、上下文長度
• Swift runtime 封裝好 tokenizer 和 pipeline
• 要求 macOS / iOS 27+ 和 Xcode 27
• GitHub 1.6K star，快速增長中
• 把 20 億台 iPhone 變成本地 AI 機器，無需 API key / 訂閱