ggerganov/llama.cppGitHub高性能本地 LLM 推理项目,适合在 CPU、GPU 和移动设备上跑模型。 可在 3qk7 查看同类工具对比、相关新闻、论文和社区信号。GitHub推理GitHubOfficial site