QuickLLM - ガイド

QuickLLM ユーザーガイド

QuickLLM は、推論・会話・ドキュメント・埋め込み・検索・生成テキストを端末内に保ちながら、モデルの適合状況とネットワーク利用の目的を可視化します。

使いはじめる

  1. 端末の診断を実行し、環境に合うモデルを選びます。
  2. モデルをダウンロードし、検証して読み込みます。
  3. 会話を開始し、Profile を選びます。
  4. 必要に応じて Knowledge Base を作成し、信頼できるドキュメントを追加して、引用を検証します。
  5. データを移動または削除する前に、重要な成果を書き出すか暗号化バックアップを作成します。
ヒント: メモリに収まらない構成を無理に使う前に、より小さいコンテキストやモデルを選びましょう。

画面の構成

領域役割
チャット会話一覧、モデル/Profile/Knowledge の選択、メッセージ、引用、コンテキスト、送信、停止。
モデルカタログ、検索、互換性、ダウンロード、インストール済みファイル、Profiles、アダプタ、ランタイム状態。
KnowledgeKnowledge Base、ドキュメント、抽出、インデックス作成、検索テスト、根拠付け、引用。
テンプレート & アクション再利用可能なプロンプト、型付きワークフロー、モバイルの共有入力、結果のレビュー、保存先。
ユーティリティ診断、ダウンロード、デスクトップ API、バックアップ/復元、クイックアクション、設定、ヘルプ、プライバシー、ライセンス。

環境に収まるモデルと、たどれる答え

QuickLLM は実測した端末性能と推定値を区別し、根拠のない引用をでっち上げることなく、根拠付きの回答をローカルドキュメントの抜粋に結び付けます。

  • プライベートなローカルチャット: 同梱のローカル推論で会話を実行し、モデル、Profile、Knowledge、コンテキスト、生成状況、停止状態を常に確認できます。
  • モデルの適合: 端末の性能を実測し、必要なメモリとストレージを比較し、検証済みモデルをダウンロードし、対応できない構成についてはその理由を説明します。
  • Knowledge Base: 対応ドキュメントを取り込み、ローカルインデックスを構築し、根拠となる抜粋を取得して、引用元をそのまま開けます。
  • Profiles と LoRA: モデル、コンテキスト、サンプリング、バックエンド、アダプタの組み合わせを保存して、同じ作業を繰り返せます。
  • テンプレートとアクション: プライベートなプロンプトを再利用し、共有テキストのワークフローを実行して、結果をコピー・共有・会話に活かせます。
  • 持ち運べる主導権: 会話を書き出し、明示的に有効にしたときだけデスクトップのローカル API を実行し、暗号化されたバックアップ・復元ファイルを作成できます。
注意: ダウンロードしたモデルやソースドキュメントには、それぞれ独自のライセンスや利用制限がある場合があります。使用や再配布の前に必ずご確認ください。

設定

設定を開くと、このアプリ固有の次の項目を確認できます。

  • ネイティブエンジン、バックエンド、スレッド、コンテキスト、キャッシュ、ストレージ、モデルの設定
  • Knowledge の抽出、埋め込み、検索、根拠付け、引用の挙動
  • デスクトップのローカル API、ネットワーク、モバイル共有、テンプレート、アクション
  • プライバシー、暗号化バックアップ、削除、外観、ショートカット、診断、ライセンス

トライアル、Free、Pro の機能は同じです。Pro ではモバイル広告と、デスクトップで 1 日 1 回表示される支援のお知らせが表示されなくなります。

キーボードショートカット

Apple プラットフォームでは、表示上 Ctrl のショートカットがプラットフォーム標準の修飾キーに割り当てられるため、Command を使用します。アプリ内のショートカット一覧が常に正となります。

ショートカット操作
Cmd/Ctrl + N新しい会話
Cmd/Ctrl + K会話を検索します
Cmd/Ctrl + Mモデルを選択します
Cmd/Ctrl + BKnowledge Base を選択します
Cmd/Ctrl + Alt/Option + I会話の詳細
Esc生成を停止します

ヒント & コツ

メモリに収まらない構成を無理に使う前に、より小さいコンテキストやモデルを選びましょう。
回答をインデックス済みの情報源の範囲内に収める必要があるときは、厳密な根拠付けを使いましょう。
生成された主張を信頼する前に、引用を開いて抽出された抜粋と比較しましょう。
バックアップのパスフレーズは、暗号化バックアップファイルとは別に保管してください。

トラブルシューティング

症状確認すること
モデルを読み込めない互換性、メモリの見積もり、ストレージ、ファイル検証、選択中のバックエンド、他に動作中のモデルセッションがないかを確認してください。
生成が遅い端末診断を使い、より小さいモデルやコンテキスト、適切なバックエンドを選び、思い込みではなく実測値で判断してください。
Knowledge に答えがないドキュメントの抽出、インデックスの状態、検索テスト、フィルタ、そして情報源に本当に根拠が含まれているかを確認してください。
バックアップを復元できない現在のデータを置き換える前に、パスフレーズ、ファイルの整合性、スキーマの互換性、空き容量、復元レビューを確認してください。

プライバシー

  • プロンプト、会話、ドキュメント、埋め込み、検索、生成テキストは端末内に留まります。
  • ネットワークの利用は、要求されたカタログ/検索、モデルのダウンロード、更新確認、または明示的に有効化した API エンドポイントに限られます。
  • モバイルの共有入力は一時的なもので、外部のオリジナルが削除されることはありません。
  • アプリが保持するワークスペースデータと管理コピーは、確認付きのプライバシー操作から削除できます。
ご利用にあたって: 任意のデスクトップ API を信頼できる境界の外へ公開したり、モデルやドキュメントをライセンスに反して使用したりしないでください。