DeskLLM 是一款桌面 AI 聊天應用程式，可在您的電腦上完全執行大型語言模型。您的對話絕不會離開您的裝置 — 無需網際網路連線、無雲端服務、無訂閱費用。
為什麼選擇 DeskLLM？
- 100% 隱私 — 每段對話都保留在您的電腦上。不會將任何資料傳送至任何伺服器。無需帳戶。
- 100% 離線 — 下載模型一次後，便可隨時使用 — 無論在飛機上、咖啡廳裡，還是任何沒有網路的地方。
- 100% 免費使用 — 沒有訂閱費、沒有按訊息計費、沒有 token 限制。盡情聊天。
主要功能
- 一鍵下載模型 — 透過單次點擊瀏覽並安裝來自 Hugging Face 的模型
- 即時串流 — 像雲端聊天服務一樣，逐個 token 觀察 AI 回應
- 多重對話 — 在側邊欄中組織分開的聊天會話
- 可自訂的 AI 行為 — 調整溫度、回應長度與系統提示
- 內建 REST API — 與 OpenAI 相容的本地 API，可供腳本與工具使用
- 廣泛的模型支援 — Gemma、Llama、Qwen、Phi、Mistral、DeepSeek 等
- 多語言介面 — 支援 80+ 種語言
- 可自訂主題顏色
選擇您的模型
- Ultra Light (4 GB+ RAM) — 快速問答、簡單任務。模型：Qwen2.5-0.5B、Llama-3.2-1B
- Light (8 GB+ RAM) — 日常助理、快速回應。模型：Qwen2.5-3B、Llama-3.2-3B
- Standard (16 GB+ RAM) — 寫作、摘要、翻譯。模型：Gemma-2-9B、Qwen2.5-7B
- High-End (32 GB+ RAM) — 程式碼生成、複雜推理。模型：DeepSeek-R1-32B、Qwen2.5-32B
適用對象
- 不希望對話儲存在外部伺服器的隱私意識使用者
- 尋找用於原型開發與測試的本地 AI API 的開發者
- 需要隨時可用的寫作助手的作家與學生
- 在不允許使用雲端 AI 服務的受限環境中工作的專業人士
- 任何想在不訂閱或註冊的情況下探索 AI 的好奇者
開始使用
- 啟動 DeskLLM 並點擊下載圖示以開啟 Model Manager
- 選擇符合您電腦 RAM 的推薦模型
- 輸入訊息並按下 Return — AI 會即時回應
- 自訂系統提示以塑造 AI 的行為
- 使用側邊欄管理多個對話
隱私
- 所有 AI 處理皆在您的電腦上本地進行
- 不會在外部伺服器上收集、傳輸或儲存任何資料
- 聊天記錄僅儲存在您的本機磁碟上
- 唯一的網路存取是由您主動從 Hugging Face 下載模型
- 沒有任何分析、遙測或追蹤