DeskLLM - Vejledning

Kom godt i gang

1. Download en model

DeskLLM kræver en sprogmodel for at fungere. Ved første start skal du klikke på download-ikonet i den nederste værktøjslinje for at åbne Model Manager.

Recommend tab — Vælg en model, der passer til din computer:

Klik Download på et hvilket som helst modelkort. Download-fremskridtet vises i realtid.

Browse tab — Søg på Hugging Face efter en hvilken som helst GGUF-model med søgeord.

2. Start en samtale

1. Vælg en model fra rullemenuen i den nederste værktøjslinje
2. Klik på indlæs-ikonet (modellen indlæses automatisk ved første besked, hvis den ikke er indlæst)
3. Skriv din besked, og tryk på Return for at sende
4. AI'en svarer i realtid, token for token

Oversigt over brugerfladen

Sidepanel

Skift med hamburgerikonet (øverst til venstre). Viser dine chatsessioner.

• Klik på en session for at skifte til den
• Højreklik for at vælge Rename eller Delete
• Klik + New Chat for at starte en ny samtale

Chatområde

• Dine beskeder vises til højre (farvede bobler)
• AI-svar vises til venstre
• Klik på kopi-ikonet på enhver besked for at kopiere den til udklipsholderen
• Tryk Shift + Return for ny linje uden at sende

Nederste værktøjslinje

Modelhåndtering

Åbn med download-ikonet i værktøjslinjen.

• Downloaded tab — Viser alle modeller på din disk. Slet modeller, du ikke længere har brug for, for at frigøre plads.
• Recommend tab — Kurateret liste over populære modeller med ét-klik download. Diskpladsen vises før download.
• Browse tab — Søg direkte på Hugging Face. Filtrer efter navn, og gennemse tilgængelige GGUF-filer for ethvert repository.

Hvor modeller gemmes

Indstillinger

Tilgå fra tandhjulsikonet (nederst til venstre) eller appmenuen.

Valg af de rigtige indstillinger

• Temperature — Lavere (0,1–0,3) til faktuelle svar. Højere (0,7–1,0) til kreativ skrivning.
• Max Tokens — Forøg for længere svar. 512 er godt til de fleste samtaler.
• Context Size — Større værdier lader modellen huske mere af samtalen, men bruger mere RAM.

REST API

DeskLLM kører en lokal API-server, der er kompatibel med OpenAI-formatet. Andre apps på din computer kan bruge den.

Endpoint: http://localhost:8800

Eksempel (curl)

curl http://localhost:8800/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "messages": [{"role": "user", "content": "Hello!"}],
    "stream": true
  }'

Eksempel (Python)

from openai import OpenAI

client = OpenAI(base_url="http://localhost:8800/v1", api_key="none")
response = client.chat.completions.create(
    model="local",
    messages=[{"role": "user", "content": "Hello!"}]
)
print(response.choices[0].message.content)

Tastaturgenveje

Tips

• Skift modeller frit — Du kan skifte modeller midt i en samtale når som helst.
• System prompt — Tilpas den til forskellige brugsscenarier: oversætter, kodningsassistent, skrivehjælper osv.
• Flere sessioner — Hold separate samtaler for forskellige emner. Sidepanelet gør det nemt at skifte.
• Offline brug — Når en model er downloadet, fungerer DeskLLM helt offline.
• API-integration — Brug den indbyggede API til at forbinde DeskLLM med andre værktøjer, scripts eller apps på din maskine.

Fejlfinding

Privatliv

• Al AI-behandling sker lokalt på din computer
• Ingen data sendes til nogen ekstern server
• Chathistorik gemmes kun på din lokale disk
• Modeller downloades fra Hugging Face (den eneste netværksadgang)