QuickLLM 使用者指南
QuickLLM 將推理、對話、文件、嵌入、檢索與生成的文字全部保留在您的裝置上，同時讓模型適配情況與網路用途清晰可見。
開始使用
- 執行裝置診斷，選擇一個適合本機的模型。
- 下載、校驗並載入模型。
- 開始對話並選擇一個預設。
- 也可以建立知識庫、新增可信文件，並核對引用。
- 在移動或刪除資料之前，匯出重要成果或建立加密備份。
小提示： 在強行使用超出記憶體的配置之前，請先選擇更小的上下文或更小的模型。
介面總覽
| 區域 | 用途 |
|---|---|
| 對話 | 對話列表、模型/預設/知識庫選擇、訊息、引用、上下文、傳送與停止。 |
| 模型 | 模型目錄、搜尋、相容性、下載、已安裝檔案、預設、配接器與執行時狀態。 |
| Knowledge | 知識庫、文件、內容提取、索引、檢索測試、依據與引用。 |
| 範本 & 動作 | 可複用提示詞、型別化工作流、行動版分享輸入、結果確認與儲存路徑。 |
| 實用工具 | 診斷、下載、桌面 API、備份/恢復、快捷操作、設定、說明、隱私與許可資訊。 |
適合本機的模型，可追溯的答案
QuickLLM 會區分實測的裝置能力與估算值，並讓有依據的回答始終關聯到本地文件摘錄，而不是憑空編造引用。
- 私密的本地對話： 透過內建的本地推理進行對話，模型、預設、知識庫、上下文、生成與停止狀態一目瞭然。
- 模型適配： 實測裝置能力，比較記憶體與儲存需求，下載經過校驗的模型，並解釋哪些配置無法支援。
- 知識庫： 匯入受支援的文件，構建本地索引，檢索有依據的摘錄，並可直接開啟引用出處。
- 預設與 LoRA： 儲存模型、上下文、取樣、後端與配接器的組合，便於重複使用。
- 範本與操作： 複用私密提示詞，執行基於共享文字的工作流，結果可隨時複製、分享或轉入對話。
- 便攜可控： 匯出對話，在明確啟用後執行桌面本地 API，並建立加密的備份與恢復檔案。
注意： 下載的模型與源文件可能有各自的許可與使用限制。使用或再分發前請先確認。
設定
開啟設定即可檢視以下應用程式專屬控制項：
- 原生引擎、後端、執行緒、上下文、快取、儲存與模型偏好設定
- 知識提取、嵌入、檢索、依據與引用行為
- 桌面本地 API、網路、行動版分享、範本與操作
- 隱私、加密備份、刪除、外觀、快速鍵、診斷與許可資訊
試用版、免費版與 Pro 版擁有相同的功能組合。Pro 版會移除行動裝置廣告與桌面版每日支持提醒。
鍵盤快速鍵
在 Apple 平台上，當應用程式將顯示的 Ctrl 快速鍵對應到平台主要輔助鍵時，請改用 Command。以應用程式內的快速鍵頁面為準。
| 快速鍵 | 動作 |
|---|---|
| Cmd/Ctrl + N | 新建對話 |
| Cmd/Ctrl + K | 搜尋對話 |
| Cmd/Ctrl + M | 選擇模型 |
| Cmd/Ctrl + B | 選擇知識庫 |
| Cmd/Ctrl + Alt/Option + I | 對話詳情 |
| Esc | 停止生成 |
技巧 & 訣竅
在強行使用超出記憶體的配置之前，請先選擇更小的上下文或更小的模型。
當答案必須嚴格限定在已索引的來源內時，請使用嚴格依據模式。
在依賴生成的結論之前，請開啟引用並對照提取出的原文摘錄。
請將備份密碼與加密備份檔案分開保管。
疑難排解
| 問題 | 檢查要點 |
|---|---|
| 模型無法載入 | 請檢查相容性、記憶體估算、儲存空間、檔案校驗、所選後端，以及是否還有另一個模型會話處於活動狀態。 |
| 生成速度慢 | 請使用裝置診斷，改用更小的模型或上下文、選擇合適的後端，並以實測結果而非主觀推測為準。 |
| 知識庫沒有給出答案 | 請檢查文件提取、索引狀態、檢索測試、篩選條件，以及來源中是否真的包含相關證據。 |
| 備份無法恢復 | 在替換當前資料之前，請確認密碼、檔案完整性、結構相容性、可用空間以及恢復前的確認資訊。 |
隱私
- 提示詞、對話、文件、嵌入、檢索與生成的文字都保留在裝置上。
- 網路使用僅限於您主動發起的目錄/搜尋請求、模型下載、更新檢查，或您明確啟用的 API 端點。
- 行動版分享的輸入內容是臨時的，外部原始檔案絕不會被刪除。
- 應用自有的工作區資料及其管理副本，可透過帶確認步驟的隱私流程刪除。
您的責任： 請勿將可選的桌面 API 暴露到可信邊界之外，也不要以違反許可的方式使用模型與文件。