Guida utente di QuickLLM
QuickLLM mantiene inferenza, conversazioni, documenti, embedding, recupero e testo generato sul tuo dispositivo, rendendo visibili la compatibilità dei modelli e lo scopo di ogni accesso alla rete.
Per iniziare
- Esegui la diagnostica del dispositivo e scegli un modello adatto.
- Scarica, verifica e carica il modello.
- Avvia una conversazione e scegli un Profilo.
- Se vuoi, crea una Knowledge Base, aggiungi documenti affidabili e verifica le citazioni.
- Esporta il lavoro importante o crea un backup cifrato prima di spostare o eliminare i dati.
Suggerimento: Scegli un contesto o un modello più piccolo invece di forzare una configurazione che non entra in memoria.
Panoramica dell'interfaccia
| Area | Scopo |
|---|---|
| Chat | Elenco delle conversazioni, selezione di modello/Profilo/Knowledge, messaggi, citazioni, contesto, Invia e Ferma. |
| Modelli | Catalogo, ricerca, compatibilità, download, file installati, Profili, adapter e stato di esecuzione. |
| Knowledge | Knowledge Base, documenti, estrazione, indicizzazione, test di recupero, ancoraggio e citazioni. |
| Template & Azioni | Prompt riutilizzabili, flussi di lavoro tipizzati, input condivisi da mobile, revisione dei risultati e percorsi di salvataggio. |
| Utilità | Diagnostica, download, API desktop, backup/ripristino, azione rapida, Impostazioni, Guida, privacy e licenze. |
Modelli che entrano, risposte che puoi tracciare
QuickLLM distingue le capacità del dispositivo misurate dalle stime e mantiene le risposte ancorate agli estratti dei documenti locali, invece di inventare citazioni non supportate.
- Chat locale e privata: Conduci le conversazioni tramite l'inferenza locale inclusa, con modello, Profilo, Knowledge, contesto, generazione e stato di Stop sempre visibili.
- Compatibilità dei modelli: Misura le capacità del dispositivo, confronta i requisiti di memoria e archiviazione, scarica modelli verificati e ricevi spiegazioni sulle configurazioni non supportate.
- Knowledge Base: Acquisisci i documenti supportati, crea indici locali, recupera estratti ancorati e apri le citazioni alla fonte.
- Profili e LoRA: Salva combinazioni di modello, contesto, campionamento, backend e adapter per un lavoro ripetibile.
- Template e Azioni: Riutilizza prompt privati ed esegui flussi di lavoro su testo condiviso, mantenendo i risultati disponibili per copia, condivisione o conversazione.
- Controllo portabile: Esporta le conversazioni, esegui un'API locale su desktop quando la attivi esplicitamente e crea file di backup e ripristino cifrati.
Nota: I modelli scaricati e i documenti di origine possono avere licenze e restrizioni d'uso distinte. Controllale prima dell'uso o della redistribuzione.
Impostazioni
Apri le Impostazioni per rivedere i seguenti controlli specifici dell'app:
- Motore nativo, backend, thread, contesto, cache, archiviazione e preferenze dei modelli
- Estrazione della Knowledge, embedding, recupero, ancoraggio e comportamento delle citazioni
- API locale desktop, rete, condivisione da mobile, template e azioni
- Privacy, backup cifrato, eliminazione, aspetto, scorciatoie, diagnostica e licenze
Versione di prova, Free e Pro offrono lo stesso insieme di funzioni. Pro rimuove gli annunci su mobile e il promemoria di supporto giornaliero su desktop.
Scorciatoie da tastiera
Sulle piattaforme Apple usa Comando dove l'app mappa una scorciatoia mostrata come Ctrl sul modificatore principale della piattaforma. La pagina delle scorciatoie nell'app resta il riferimento autorevole.
| Scorciatoia | Azione |
|---|---|
| Cmd/Ctrl + N | Nuova conversazione |
| Cmd/Ctrl + K | Cerca nelle conversazioni |
| Cmd/Ctrl + M | Scegli il modello |
| Cmd/Ctrl + B | Scegli la Knowledge Base |
| Cmd/Ctrl + Alt/Option + I | Dettagli della conversazione |
| Esc | Ferma la generazione |
Consigli & trucchi
Scegli un contesto o un modello più piccolo invece di forzare una configurazione che non entra in memoria.
Usa l'ancoraggio rigoroso quando una risposta deve restare all'interno delle fonti indicizzate.
Apri le citazioni e confronta l'estratto prima di fidarti di un'affermazione generata.
Conserva le passphrase di backup separate dal file di backup cifrato.
Risoluzione dei problemi
| Problema | Cosa controllare |
|---|---|
| Un modello non si carica | Controlla compatibilità, stima della memoria, archiviazione, verifica del file, backend selezionato ed eventuali altre sessioni di modello attive. |
| La generazione è lenta | Usa la diagnostica del dispositivo, un modello o un contesto più piccolo, un backend adeguato e prestazioni misurate invece che presunte. |
| La Knowledge non dà risposte | Controlla l'estrazione dei documenti, lo stato dell'indice, il test di recupero, i filtri e se la fonte contiene davvero prove. |
| Un backup non si ripristina | Verifica passphrase, integrità del file, compatibilità dello schema, spazio libero e la revisione del ripristino prima di sostituire i dati attuali. |
Privacy
- Prompt, conversazioni, documenti, embedding, recupero e testo generato restano sul dispositivo.
- L'uso della rete è limitato a catalogo/ricerca richiesti, download dei modelli, verifica degli aggiornamenti o a un endpoint API che attivi esplicitamente.
- Gli input condivisi da mobile sono temporanei e gli originali esterni non vengono mai eliminati.
- I dati dello spazio di lavoro dell'app e le copie gestite possono essere rimossi tramite il flusso di privacy con revisione.
La tua responsabilità: Non esporre l'API desktop opzionale oltre un confine affidabile e non usare modelli e documenti in violazione delle loro licenze.