DeskLLM 是一款桌面 AI 聊天应用程序,可在您的计算机上完全运行大型语言模型。您的对话永远不会离开您的设备 — 无需互联网连接,无云服务,无订阅。
为什么选择 DeskLLM?
- 100% 私密 — 每次对话都保留在您的计算机上。不向任何服务器发送数据。无需账户。
- 100% 离线 — 下载模型一次,随时可用 — 在飞机上、咖啡馆中或任何没有互联网的地方。
- 100% 免费使用 — 无订阅费、无每条消息费用、无令牌限制。随心所欲地聊天。
主要特点
- 一键模型下载 — 从 Hugging Face 浏览和安装模型,一键完成
- 实时流式传输 — 观看 AI 逐令牌响应,就像基于云的聊天服务
- 多个对话 — 在侧边栏中组织单独的聊天会话
- 可自定义的 AI 行为 — 调整温度、响应长度和系统提示
- 内置 REST API — 用于脚本和工具的 OpenAI 兼容本地 API
- 广泛的模型支持 — Gemma、Llama、Qwen、Phi、Mistral、DeepSeek 等
- 多语言界面 — 支持 80 多种语言
- 可自定义的主题颜色
选择您的模型
- 超轻量(4 GB+ RAM) — 快速问答、简单任务。模型:Qwen2.5-0.5B、Llama-3.2-1B
- 轻量(8 GB+ RAM) — 日常助手、快速响应。模型:Qwen2.5-3B、Llama-3.2-3B
- 标准(16 GB+ RAM) — 写作、摘要、翻译。模型:Gemma-2-9B、Qwen2.5-7B
- 高端(32 GB+ RAM) — 代码生成、复杂推理。模型:DeepSeek-R1-32B、Qwen2.5-32B
非常适合
- 不希望对话存储在外部服务器上的隐私意识强的用户
- 寻找用于原型设计和测试的本地 AI API 的开发人员
- 想要随时可用的写作助手的作家和学生
- 在受限环境中工作,不允许使用云 AI 服务的专业人员
- 对 AI 好奇,希望无需订阅或注册即可探索的任何人
入门
- 启动 DeskLLM 并单击下载图标打开模型管理器
- 选择适合您计算机 RAM 的推荐模型
- 输入消息并按 Return — AI 实时响应
- 自定义系统提示以塑造 AI 的行为
- 使用侧边栏管理多个对话
隐私
- 所有 AI 处理都在您的计算机上本地进行
- 不向外部服务器收集、传输或存储任何数据
- 聊天历史记录仅存储在您的本地磁盘上
- 唯一的网络访问是由您启动的从 Hugging Face 下载模型
- 无任何形式的分析、遥测或跟踪