QuickLLM felhasználói útmutató
A QuickLLM az eszközén tartja a következtetést, beszélgetéseket, dokumentumokat, beágyazásokat, visszakeresést és létrehozott szöveget, miközben láthatóvá teszi a modell illeszkedését és a hálózat használatának célját.
Első lépések
- Futtassa az eszközdiagnosztikát, és válasszon illeszkedő modellt.
- Töltse le, ellenőrizze és töltse be a modellt.
- Indítson beszélgetést, és válasszon Profile profilt.
- Igény szerint hozzon létre Knowledge Base adatbázist, adjon hozzá megbízható dokumentumokat, és ellenőrizze az idézeteket.
- Fontos munkáját exportálja, vagy az adatok áthelyezése vagy törlése előtt készítsen titkosított biztonsági mentést.
Tipp: Mielőtt a memóriába nem illeszkedő beállítást erőltetne, válasszon kisebb környezetet vagy modellt.
A felület áttekintése
| Terület | Rendeltetés |
|---|---|
| Csevegés | Beszélgetéslista, modell/Profile/Knowledge kiválasztás, üzenetek, idézetek, környezet, Küldés és Leállítás. |
| Modellek | Katalógus, keresés, kompatibilitás, letöltések, telepített fájlok, Profiles, adapterek és futásidejű állapot. |
| Knowledge | Knowledge Bases, dokumentumok, kinyerés, indexelés, visszakeresési tesztek, megalapozás és idézetek. |
| Sablonok & Actions | Újrahasználható utasítások, típusos munkafolyamatok, mobil megosztási bemenet, eredményfelülvizsgálat és mentési útvonalak. |
| Segédprogramok | Diagnosztika, letöltések, asztali API, biztonsági mentés/visszaállítás, gyorsművelet, Beállítások, Súgó, adatvédelem és licencek. |
Illeszkedő modellek, visszakövethető válaszok
A QuickLLM megkülönbözteti a mért eszközképességet a becslésektől, és a megalapozott válaszokat helyi dokumentumrészletekhez köti a nem igazolható idézetek kitalálása helyett.
- Privát helyi csevegés: Beszélgetések futtatása csomagolt helyi következtetéssel, látható modell-, Profile-, Knowledge-, környezet-, generálási és Leállítási állapottal.
- Modellilleszkedés: Mérje fel az eszköz képességeit, hasonlítsa össze a memória- és tárhelyigényt, töltsön le ellenőrzött modelleket, és kapjon magyarázatot a nem támogatott beállításokról.
- Knowledge Bases: Támogatott dokumentumok betöltése, helyi indexek építése, megalapozott részletek visszakeresése és idézetek megnyitása a forrásnál.
- Profiles és LoRA: Modell-, környezet-, mintavételezési, háttérrendszer- és adapterkombinációk mentése megismételhető munkához.
- Sablonok és Actions: Privát utasítások újrafelhasználása és megosztott szöveges munkafolyamatok futtatása, amelyek eredménye másolható, megosztható vagy beszélgetésbe vihető.
- Hordozható vezérlés: Beszélgetések exportálása, kifejezett engedélyezés esetén helyi asztali API futtatása, valamint titkosított biztonságimentési és visszaállítási fájlok létrehozása.
Megjegyzés: A letöltött modellekre és forrásdokumentumokra külön licencek és használati korlátozások vonatkozhatnak. Használat vagy továbbterjesztés előtt tekintse át őket.
Beállítások
Nyissa meg a Beállításokat az alábbi alkalmazásspecifikus vezérlők áttekintéséhez:
- Natív motor-, háttérrendszer-, szál-, környezet-, gyorsítótár-, tárhely- és modellbeállítások
- Knowledge-kinyerés, beágyazások, visszakeresés, megalapozás és idézési működés
- Asztali helyi API, hálózat, mobil megosztás, sablonok és Actions
- Adatvédelem, titkosított biztonsági mentés, törlés, megjelenés, billentyűparancsok, diagnosztika és licencek
A próbaverzió, az Ingyenes és a Pro csomag ugyanazt a funkciókészletet használja. A Pro eltávolítja a mobilhirdetéseket és a napi asztali támogatási emlékeztetőt.
Billentyűparancsok
Apple platformokon használja a Command billentyűt, ha az alkalmazás a megjelenített Ctrl billentyűparancsot a platform elsődleges módosítójához rendeli. Az alkalmazáson belüli billentyűparancsoldal az irányadó.
| Billentyűparancs | Művelet |
|---|---|
| Cmd/Ctrl + N | Új beszélgetés |
| Cmd/Ctrl + K | Beszélgetések keresése |
| Cmd/Ctrl + M | Modell kiválasztása |
| Cmd/Ctrl + B | Knowledge Base kiválasztása |
| Cmd/Ctrl + Alt/Option + I | Beszélgetés részletei |
| Esc | Generálás leállítása |
Tippek & trükkök
Mielőtt a memóriába nem illeszkedő beállítást erőltetne, válasszon kisebb környezetet vagy modellt.
Használjon szigorú megalapozást, ha a válasznak az indexelt forrásokon belül kell maradnia.
Nyissa meg az idézeteket, és a létrehozott állítás elfogadása előtt hasonlítsa össze a kinyert részletet.
A biztonsági mentés jelszavát az annak titkosított fájljától elkülönítve őrizze.
Hibaelhárítás
| Probléma | Ellenőrizendő |
|---|---|
| Egy modell nem tölthető be | Ellenőrizze a kompatibilitást, memóriabecslést, tárhelyet, fájlellenőrzést, kiválasztott háttérrendszert és a másik aktív modell-munkamenetet. |
| A generálás lassú | Használjon eszközdiagnosztikát, kisebb modellt vagy környezetet, megfelelő háttérrendszert és feltételezett helyett mért teljesítményt. |
| A Knowledge nem talál választ | Ellenőrizze a dokumentumkinyerést, indexállapotot, visszakeresési tesztet, szűrőket, valamint hogy a forrás valóban tartalmaz-e bizonyítékot. |
| Egy biztonsági mentés nem állítható vissza | Az aktuális adatok lecserélése előtt ellenőrizze a jelszót, fájlsértetlenséget, séma-kompatibilitást, szabad helyet és a visszaállítási felülvizsgálatot. |
Adatvédelem
- Az utasítások, beszélgetések, dokumentumok, beágyazások, visszakeresés és létrehozott szöveg az eszközön maradnak.
- A hálózathasználat a kért katalógusra/keresésre, modellletöltésre, frissítésellenőrzésre vagy az Ön által kifejezetten engedélyezett API-végpontra korlátozódik.
- A mobil megosztási bemenetek ideiglenesek, a külső eredetik soha nem törlődnek.
- Az alkalmazás tulajdonában lévő munkaterületi adatok és kezelt másolatok az ellenőrzött adatvédelmi munkafolyamatban eltávolíthatók.
Az Ön felelőssége: Ne tegye elérhetővé az opcionális asztali API-t megbízható határon kívül, és ne használjon modelleket vagy dokumentumokat licencükkel ellentétesen.