デスクトップ上で完全に動作する AI モデルとチャットできます。インターネット接続不要、データがデバイスから外に出ることはありません。
はじめに
1. モデルをダウンロード
DeskLLM を動作させるには言語モデルが必要です。初回起動時に、画面下部のツールバーのダウンロードアイコンをクリックしてモデルマネージャーを開いてください。
Recommend タブ — お使いのコンピューターに合ったモデルを選びます:
| カテゴリー | RAM | おすすめ用途 |
|---|---|---|
| Ultra Light | 4 GB 以上 | 素早い回答、最小リソース |
| Light | 8 GB 以上 | 日常的な作業、バックグラウンドアシスタント |
| Standard | 16 GB 以上 | チャット、執筆、要約 |
| High-End | 32 GB 以上 | 複雑な推論、コード生成 |
任意のモデルカードで Download をクリックします。ダウンロードの進捗はリアルタイムに表示されます。
Browse タブ — キーワードで Hugging Face の任意の GGUF モデルを検索できます。
2. チャットを始める
- 下部ツールバーのドロップダウンからモデルを選択
- ロードアイコンをクリック（ロードされていなければ最初のメッセージ送信時に自動ロード）
- メッセージを入力して Return で送信
- AI がリアルタイムにトークン単位で応答します
画面の概要
サイドバー
左上のハンバーガーアイコンで開閉します。チャットセッションの一覧が表示されます。
- セッションをクリックすると切り替え
- 右クリックで Rename（名前変更） や Delete（削除）
- + New Chat で新しい会話を開始
チャット領域
- あなたのメッセージ は右側（色付きバブル）に表示されます
- AI の応答 は左側に表示されます
- 各メッセージのコピーアイコンをクリックするとクリップボードにコピーできます
- Shift + Return で送信せずに改行できます
下部ツールバー
| 要素 | 説明 |
|---|---|
| モデルドロップダウン | 使用するモデルを選択 |
| ダウンロードアイコン | モデルマネージャーを開く |
| ロード / アンロードアイコン | 現在のモデルを手動でロード / アンロード |
| ステータス表示 | 応答中は “Generating…” と表示 |
モデル管理
ツールバーのダウンロードアイコンから開きます。
- Downloaded タブ — ディスク上のすべてのモデルを一覧表示。不要なモデルを削除してディスクを空けられます。
- Recommend タブ — 人気モデルのキュレーション一覧。ワンクリックでダウンロード可能。事前にディスク使用量が表示されます。
- Browse タブ — Hugging Face を直接検索。名前でフィルタし、任意のリポジトリで利用可能な GGUF ファイルを閲覧できます。
モデルの保存場所
| OS | パス |
|---|---|
| macOS | ~/Library/Application Support/DeskAssist/llm_models/ |
| Windows | %APPDATA%/DeskAssist/llm_models/ |
設定
左下の歯車アイコン、またはアプリメニューからアクセスします。
| 設定項目 | 説明 | デフォルト |
|---|---|---|
| Temperature（温度） | 創造性のレベル（0.0 = 集中した回答、1.0+ = 創造的） | 0.7 |
| Max Tokens（最大トークン数） | 応答の最大長 | 512 |
| Context Size（コンテキストサイズ） | モデルが参照する会話履歴の量 | 2048 |
| System Prompt（システムプロンプト） | 全ての会話の前にモデルへ与える指示 | “You are a helpful assistant.” |
| API Enabled（API 有効化） | ローカル REST API サーバーを起動 | On |
| API Port（API ポート） | API サーバーのポート番号 | 8800 |
適切な設定の選び方
- Temperature — 事実を回答させるなら低め（0.1–0.3）、創作なら高め（0.7–1.0）。
- Max Tokens — 長い応答が欲しい場合は増やします。512 はほとんどの会話に十分です。
- Context Size — 大きいほど会話の長い履歴を覚えますが、RAM 消費が増えます。
REST API
DeskLLM は OpenAI 互換形式のローカル API サーバーを起動します。同じコンピューター上の他アプリから利用できます。
エンドポイント: http://localhost:8800
例 (curl)
curl http://localhost:8800/v1/chat/completions \
-H "Content-Type: application/json" \
-d '{
"messages": [{"role": "user", "content": "Hello!"}],
"stream": true
}'例 (Python)
from openai import OpenAI
client = OpenAI(base_url="http://localhost:8800/v1", api_key="none")
response = client.chat.completions.create(
model="local",
messages=[{"role": "user", "content": "Hello!"}]
)
print(response.choices[0].message.content)キーボードショートカット
| 操作 | macOS | Windows |
|---|---|---|
| ウィンドウの表示 / 非表示 | Ctrl + Cmd + F8 | Ctrl + Alt + F8 |
| メッセージを送信 | Return | Return |
| 改行 | Shift + Return | Shift + Return |
| 新しいチャット | Cmd + N | Ctrl + N |
Tips
- モデルは自由に切り替え可能 — 会話中でもいつでも別のモデルに変更できます。
- システムプロンプト — 用途に応じてカスタマイズ: 翻訳者、コーディングアシスタント、執筆サポートなど。
- 複数セッション — トピック別に会話を分けて管理。サイドバーから簡単に切り替えられます。
- オフライン利用 — モデルを一度ダウンロードすれば、DeskLLM は完全オフラインで動作します。
- API 連携 — 組み込み API を使って、マシン内の他ツール・スクリプト・アプリと DeskLLM を連携できます。
トラブルシューティング
| 問題 | 対処法 |
|---|---|
| モデルがロードできない | 利用可能な RAM を確認。小さな量子化（Q4_K_M）はメモリ消費が少なめです。 |
| 応答が遅い | 小さいモデルに切り替えてみてください。メモリを多く使う他アプリを閉じます。 |
| 出力が文字化けする | 温度を下げる。別のモデルを試してください。 |
| ダウンロードが失敗する | インターネット接続を確認。再試行してください — ダウンロードは自動的に再開されます。 |
| アプリが起動しない | 設定ファイルを削除して再起動してください。 |
プライバシー
- すべての AI 処理はあなたのコンピューター内でローカルに実行されます
- 外部サーバーへのデータ送信は一切ありません
- チャット履歴はあなたのローカルディスクにのみ保存されます
- モデルは Hugging Face からダウンロードされます（唯一のネットワークアクセス）