QuickLLM-käyttöopas
QuickLLM säilyttää päättelyn, keskustelut, asiakirjat, upotukset, haun ja luodun tekstin laitteellasi sekä näyttää mallin sopivuuden ja verkon käyttötarkoituksen selkeästi.
Näin pääset alkuun
- Suorita laitediagnostiikka ja valitse sopiva malli.
- Lataa, varmista ja ota malli käyttöön.
- Aloita keskustelu ja valitse Profile.
- Luo halutessasi Knowledge Base, lisää luotettavia asiakirjoja ja varmista viittaukset.
- Vie tärkeä työ tai luo salattu varmuuskopio ennen tietojen siirtämistä tai poistamista.
Vinkki: Valitse pienempi konteksti tai malli, ennen kuin pakotat käyttöön kokoonpanon, joka ei mahdu muistiin.
Käyttöliittymän yleiskatsaus
| Alue | Käyttötarkoitus |
|---|---|
| Keskustelu | Keskusteluluettelo, mallin/Profile/Knowledge-valinta, viestit, viittaukset, konteksti, Send ja Stop. |
| Mallit | Luettelo, haku, yhteensopivuus, lataukset, asennetut tiedostot, Profilet, sovittimet ja ajonaikainen tila. |
| Knowledge | Knowledge Baset, asiakirjat, poiminta, indeksointi, hakutestit, pohjustus ja viittaukset. |
| Templates & Actions | Uudelleenkäytettävät kehotteet, tyypitetyt työnkulut, mobiilijaon syöte, tulosten tarkistus ja tallennuspolut. |
| Apuohjelmat | Diagnostiikka, lataukset, työpöytä-API, varmuuskopiointi/palautus, pikatoiminto, Settings, Help, tietosuoja ja lisenssit. |
Sopivat mallit, jäljitettävät vastaukset
QuickLLM erottaa mitatun laitekyvykkyyden arvioista ja pitää perustellut vastaukset linkitettyinä paikallisiin asiakirjaotteisiin sen sijaan, että se keksisi perusteettomia viittauksia.
- Yksityinen paikallinen keskustelu: Käy keskusteluja paketoidulla paikallisella päättelyllä, jossa mallin, Profilen, Knowledgen, kontekstin, generoinnin ja Stop-tilan tiedot ovat näkyvissä.
- Mallin sopivuus: Mittaa laitekyvykkyys, vertaa muisti- ja tallennustilavaatimuksia, lataa varmennetut mallit ja selitä tukemattomat kokoonpanot.
- Knowledge Baset: Tuo tuetut asiakirjat, rakenna paikalliset indeksit, hae perusteltuja otteita ja avaa viittaukset niiden lähteestä.
- Profilet ja LoRA: Tallenna mallin, kontekstin, näytteenoton, taustajärjestelmän ja sovittimen yhdistelmät toistettavaa työtä varten.
- Templates ja Actions: Käytä uudelleen yksityisiä kehotteita ja suorita jaetun tekstin työnkulkuja, jotka pitävät tulokset käytettävissä kopiointia, jakamista tai keskustelua varten.
- Kannettava hallinta: Vie keskusteluja, suorita työpöydän paikallinen API, kun se on nimenomaisesti käytössä, sekä luo salattuja varmuuskopio- ja palautustiedostoja.
Huomaa: Ladatuilla malleilla ja lähdeasiakirjoilla voi olla erillisiä lisenssejä ja käyttörajoituksia. Tarkista ne ennen käyttöä tai edelleenjakelua.
Asetukset
Avaa Asetukset ja käy läpi seuraavat sovelluskohtaiset säätimet:
- Natiivimoottorin, taustajärjestelmän, säikeiden, kontekstin, välimuistin, tallennustilan ja mallin asetukset
- Tiedon poiminta, upotukset, haku, ankkurointi ja viittausten toiminta
- Työpöydän paikallinen API, verkko, mobiilijako, mallit ja toiminnot
- Tietosuoja, salattu varmuuskopiointi, poistaminen, ulkoasu, pikanäppäimet, diagnostiikka ja lisenssit
Kokeilujaksolla, Free-versiossa ja Pro-versiossa on sama toiminnallinen ominaisuusvalikoima. Pro poistaa mobiilimainokset ja päivittäisen tukimuistutuksen työpöydällä.
Näppäinoikotiet
Apple-alustoilla käytetään Command-näppäintä silloin, kun sovellus liittää näytetyn Ctrl-oikotien alustan ensisijaiseen muokkausnäppäimeen. Sovelluksen sisäinen oikotiesivu on aina ajantasaisin lähde.
| Oikotie | Toiminto |
|---|---|
| Cmd/Ctrl + N | Uusi keskustelu |
| Cmd/Ctrl + K | Hae keskusteluista |
| Cmd/Ctrl + M | Valitse malli |
| Cmd/Ctrl + B | Valitse tietokanta |
| Cmd/Ctrl + Alt/Option + I | Keskustelun tiedot |
| Esc | Lopeta luonti |
Vinkit & niksit
Valitse pienempi konteksti tai malli, ennen kuin pakotat käyttöön kokoonpanon, joka ei mahdu muistiin.
Käytä tiukkaa ankkurointia, kun vastauksen on pysyttävä indeksoitujen lähteiden rajoissa.
Avaa viittaukset ja vertaa poimittua katkelmaa, ennen kuin luotat luotuun väitteeseen.
Säilytä varmuuskopioiden salalauseet erillään salatusta varmuuskopiotiedostosta.
Vianmääritys
| Ongelma | Mitä tarkistaa |
|---|---|
| Mallia ei voida ladata | Tarkista yhteensopivuus, muistiestimaatti, tallennustila, tiedoston vahvistus, valittu taustajärjestelmä ja mahdollinen toinen aktiivinen mallisessio. |
| Luonti on hidasta | Käytä laitteen diagnostiikkaa, pienempää mallia tai kontekstia, sopivaa taustajärjestelmää sekä mitattua, ei oletettua suorituskykyä. |
| Tietopohjassa ei ole vastausta | Tarkista asiakirjan poiminta, indeksin tila, hakutesti, suodattimet ja se, sisältääkö lähde todella näyttöä. |
| Varmuuskopiota ei voida palauttaa | Vahvista salalause, tiedoston eheys, skeeman yhteensopivuus, vapaa tila ja palautuksen tarkistus ennen nykyisten tietojen korvaamista. |
Tietosuoja
- Kehotteet, keskustelut, asiakirjat, upotukset, haku ja luotu teksti säilyvät laitteella.
- Verkkoa käytetään vain pyydettyyn luetteloon/hakuun, mallin lataamiseen, päivitystarkistukseen tai nimenomaisesti käyttöön ottamaasi API-päätepisteeseen.
- Mobiilijaon syötteet ovat tilapäisiä, eikä ulkoisia alkuperäistiedostoja koskaan poisteta.
- Sovelluksen omistamat työtilatiedot ja hallitut kopiot voidaan poistaa tarkistetun tietosuojatyönkulun kautta.
Sinun vastuullasi: Älä altista valinnaista työpöydän APIa luotetun rajan ulkopuolelle äläkä käytä malleja ja asiakirjoja niiden lisenssien vastaisesti.