מדריך המשתמש של QuickLLM
QuickLLM שומרת על ההסקה, השיחות, המסמכים, ההטמעות, האחזור והטקסט שנוצר במכשיר שלך, תוך הצגת התאמת המודל ומטרת הרשת באופן ברור.
תחילת העבודה
- הפעל אבחון מכשיר ובחר מודל שמתאים.
- הורד, אמת וטען את המודל.
- התחל שיחה ובחר פרופיל.
- באפשרותך ליצור בסיס ידע, להוסיף מסמכים מהימנים ולאמת ציטוטים.
- ייצא עבודה חשובה או צור גיבוי מוצפן לפני העברה או מחיקה של נתונים.
עצה: בחר הקשר או מודל קטנים יותר לפני שתכפה תצורה שאינה מתאימה לזיכרון.
סקירת הממשק
| אזור | מטרה |
|---|---|
| צ'אט | רשימת שיחות, בחירת מודל/פרופיל/ידע, הודעות, ציטוטים, הקשר, שליחה ועצירה. |
| מודלים | קטלוג, חיפוש, תאימות, הורדות, קבצים מותקנים, פרופילים, מתאמים ומצב זמן ריצה. |
| Knowledge | בסיסי ידע, מסמכים, חילוץ, יצירת אינדקס, בדיקות אחזור, עיגון וציטוטים. |
| תבניות & פעולות | הנחיות לשימוש חוזר, תהליכי עבודה מוקלדים, קלט שיתוף מהנייד, סקירת תוצאות ונתיבי שמירה. |
| כלי עזר | אבחון, הורדות, API לשולחן העבודה, גיבוי/שחזור, פעולה מהירה, הגדרות, עזרה, פרטיות ורישיונות. |
מודלים שמתאימים, תשובות שאפשר לעקוב אחריהן
QuickLLM מבדילה בין יכולת מכשיר נמדדת לבין הערכות, ושומרת תשובות מעוגנות מקושרות לקטעי מסמכים מקומיים במקום להמציא ציטוטים לא נתמכים.
- צ'אט מקומי פרטי: נהל שיחות באמצעות הסקה מקומית ארוזה עם מצב גלוי של מודל, פרופיל, ידע, הקשר, יצירה ועצירה.
- התאמת מודל: מדוד את יכולת המכשיר, השווה דרישות זיכרון ואחסון, הורד מודלים מאומתים והסבר תצורות שאינן נתמכות.
- בסיסי ידע: קלוט מסמכים נתמכים, בנה אינדקסים מקומיים, אחזר קטעים מעוגנים ופתח ציטוטים במקור שלהם.
- פרופילים ו-LoRA: שמור שילובים של מודל, הקשר, דגימה, קצה אחורי ומתאם לעבודה חוזרת.
- תבניות ופעולות: השתמש מחדש בהנחיות פרטיות והפעל תהליכי עבודה של טקסט משותף השומרים תוצאות זמינות להעתקה, לשיתוף או לשיחה.
- שליטה ניידת: ייצא שיחות, הפעל API מקומי לשולחן העבודה כשהוא מופעל במפורש, וצור קובצי גיבוי ושחזור מוצפנים.
הערה: למודלים שהורדו ולמסמכי מקור עשויים להיות רישיונות והגבלות שימוש נפרדים. עיין בהם לפני שימוש או הפצה מחדש.
הגדרות
פתחו את Settings כדי לבדוק את אמצעי הבקרה הספציפיים הבאים ליישום:
- העדפות למנוע מקומי, קצה אחורי, תהליכונים, הקשר, מטמון, אחסון ומודל
- חילוץ ידע, הטמעות, אחזור, עיגון והתנהגות ציטוטים
- API מקומי לשולחן העבודה, רשת, שיתוף מהנייד, תבניות ופעולות
- פרטיות, גיבוי מוצפן, מחיקה, מראה, קיצורי דרך, אבחון ורישיונות
Trial, Free ו-Pro משתמשים באותה ערכת תכונות פונקציונלית. Pro מסירה פרסומות בנייד ותזכורת התמיכה היומית בשולחן העבודה.
קיצורי מקלדת
בפלטפורמות Apple, השתמשו ב-Command כאשר היישום ממפה קיצור Ctrl מוצג למקש השינוי הראשי של הפלטפורמה. דף קיצורי הדרך בתוך היישום הוא הקובע.
| קיצור | פעולה |
|---|---|
| Cmd/Ctrl + N | שיחה חדשה |
| Cmd/Ctrl + K | חפש שיחות |
| Cmd/Ctrl + M | בחר מודל |
| Cmd/Ctrl + B | בחר בסיס ידע |
| Cmd/Ctrl + Alt/Option + I | פרטי שיחה |
| Esc | עצור יצירה |
טיפים & טריקים
בחר הקשר או מודל קטנים יותר לפני שתכפה תצורה שאינה מתאימה לזיכרון.
השתמש בעיגון מחמיר כאשר תשובה חייבת להישאר בתוך המקורות שבאינדקס.
פתח ציטוטים והשווה את הקטע שחולץ לפני שתסתמך על טענה שנוצרה.
שמור ביטויי סיסמה לגיבוי בנפרד מקובץ הגיבוי המוצפן.
פתרון בעיות
| בעיה | מה לבדוק |
|---|---|
| לא ניתן לטעון מודל | בדוק תאימות, הערכת זיכרון, אחסון, אימות קובץ, קצה אחורי נבחר והפעלת מודל פעילה אחרת. |
| היצירה איטית | השתמש באבחון מכשיר, במודל או הקשר קטנים יותר, בקצה אחורי מתאים ובביצועים נמדדים במקום משוערים. |
| לידע אין תשובה | בדוק את חילוץ המסמכים, מצב האינדקס, בדיקת האחזור, המסננים והאם המקור אכן מכיל ראיות. |
| לא ניתן לשחזר גיבוי | אמת את ביטוי הסיסמה, תקינות הקובץ, תאימות הסכימה, המקום הפנוי וסקירת השחזור לפני החלפת נתונים נוכחיים. |
פרטיות
- הנחיות, שיחות, מסמכים, הטמעות, אחזור וטקסט שנוצר נשארים במכשיר.
- השימוש ברשת מוגבל לקטלוג/חיפוש מבוקש, הורדת מודל, בדיקת עדכון או נקודת קצה של API שאתה מפעיל במפורש.
- קלטי שיתוף מהנייד זמניים והמקורות החיצוניים לעולם אינם נמחקים.
- ניתן להסיר נתוני סביבת עבודה שבבעלות היישום ועותקים מנוהלים באמצעות תהליך פרטיות שנבדק.
באחריותכם: אל תחשוף את ה-API האופציונלי לשולחן העבודה מעבר לגבול מהימן ואל תשתמש במודלים ובמסמכים בניגוד לרישיונותיהם.