AI cục bộ AI 工具

本地部署大模型推理和 GPU 运行环境工具。 可在 3qk7 查看同类工具对比、相关新闻、论文和社区信号。

桌面端本地大模型运行环境，适合下载、测试和离线运行开源 LLM。 可在 3qk7 查看同类工具对比、相关新闻、论文和社区信号。

命令行本地大模型运行工具，适合开发者快速部署 Llama、Qwen、Mistral 等模型。 可在 3qk7 查看同类工具对比、相关新闻、论文和社区信号。

开源本地 AI 助手，适合在桌面端运行模型、管理对话和保护私有数据。 可在 3qk7 查看同类工具对比、相关新闻、论文和社区信号。

自托管 AI 对话界面，适合连接 Ollama 和 OpenAI 兼容接口搭建团队内网助手。 可在 3qk7 查看同类工具对比、相关新闻、论文和社区信号。

本地和私有化知识库问答工具，适合把文档、网页和向量库接入团队 AI 助手。 可在 3qk7 查看同类工具对比、相关新闻、论文和社区信号。

面向桌面和开发者的本地 AI 运行工具，适合离线测试开源模型和私有数据问答。 可在 3qk7 查看同类工具对比、相关新闻、论文和社区信号。

本地 AI 应用安装和运行器，适合一键安装图像、视频、语音和模型工具。 可在 3qk7 查看同类工具对比、相关新闻、论文和社区信号。

面向 AI 应用的开源嵌入数据库，适合本地 RAG、原型和向量检索。 可在 3qk7 查看同类工具对比、相关新闻、论文和社区信号。