Οδηγός χρήσης QuickLLM
Το QuickLLM διατηρεί στη συσκευή σας την εξαγωγή συμπερασμάτων, τις συνομιλίες, τα έγγραφα, τα embeddings, την ανάκτηση και το παραγόμενο κείμενο, ενώ καθιστά ορατή την καταλληλότητα του μοντέλου και τον σκοπό του δικτύου.
Ξεκινήστε
- Εκτελέστε διαγνωστικά συσκευής και επιλέξτε μοντέλο που ταιριάζει.
- Λήψη, επαλήθευση και φόρτωση του μοντέλου.
- Ξεκινήστε μια συνομιλία και επιλέξτε Profile.
- Προαιρετικά, δημιουργήστε μια Knowledge Base, προσθέστε αξιόπιστα έγγραφα και επαληθεύστε τις παραπομπές.
- Εξαγάγετε σημαντική εργασία ή δημιουργήστε κρυπτογραφημένο αντίγραφο ασφαλείας πριν μετακινήσετε ή διαγράψετε δεδομένα.
Συμβουλή: Επιλέξτε μικρότερο περιβάλλον εργασίας ή μοντέλο προτού επιβάλετε μια ρύθμιση που δεν χωρά στη μνήμη.
Επισκόπηση διεπαφής
| Περιοχή | Σκοπός |
|---|---|
| Συνομιλία | Λίστα συνομιλιών, επιλογή μοντέλου/Profile/Knowledge, μηνύματα, παραπομπές, περιβάλλον, Αποστολή και Διακοπή. |
| Μοντέλα | Κατάλογος, αναζήτηση, συμβατότητα, λήψεις, εγκατεστημένα αρχεία, Profiles, προσαρμογείς και κατάσταση χρόνου εκτέλεσης. |
| Knowledge | Knowledge Bases, έγγραφα, εξαγωγή, ευρετηρίαση, δοκιμές ανάκτησης, τεκμηρίωση και παραπομπές. |
| Πρότυπα & Actions | Επαναχρησιμοποιήσιμες προτροπές, τυποποιημένες ροές εργασίας, είσοδος κοινοποίησης από κινητό, έλεγχος αποτελέσματος και διαδρομές αποθήκευσης. |
| Βοηθητικά εργαλεία | Διαγνωστικά, λήψεις, τοπικό API επιφάνειας εργασίας, δημιουργία/επαναφορά αντιγράφων ασφαλείας, γρήγορη ενέργεια, Ρυθμίσεις, Βοήθεια, απόρρητο και άδειες. |
Μοντέλα που ταιριάζουν, απαντήσεις που μπορείτε να ανιχνεύσετε
Το QuickLLM διακρίνει τη μετρημένη δυνατότητα της συσκευής από τις εκτιμήσεις και διατηρεί τις τεκμηριωμένες απαντήσεις συνδεδεμένες με τοπικά αποσπάσματα εγγράφων αντί να επινοεί ανυπόστατες παραπομπές.
- Ιδιωτική τοπική συνομιλία: Εκτελέστε συνομιλίες μέσω ενσωματωμένης τοπικής εξαγωγής συμπερασμάτων με ορατή κατάσταση μοντέλου, Profile, Knowledge, περιβάλλοντος, δημιουργίας και Διακοπής.
- Καταλληλότητα μοντέλου: Μετρήστε τις δυνατότητες της συσκευής, συγκρίνετε απαιτήσεις μνήμης και αποθήκευσης, λάβετε επαληθευμένα μοντέλα και εξηγήστε μη υποστηριζόμενες ρυθμίσεις.
- Knowledge Bases: Εισαγάγετε υποστηριζόμενα έγγραφα, δημιουργήστε τοπικά ευρετήρια, ανακτήστε τεκμηριωμένα αποσπάσματα και ανοίξτε παραπομπές στην πηγή τους.
- Profiles και LoRA: Αποθηκεύστε συνδυασμούς μοντέλου, περιβάλλοντος, δειγματοληψίας, υποσυστήματος και προσαρμογέα για επαναλήψιμη εργασία.
- Πρότυπα και Actions: Επαναχρησιμοποιήστε ιδιωτικές προτροπές και εκτελέστε ροές εργασίας κοινόχρηστου κειμένου που διατηρούν τα αποτελέσματα διαθέσιμα για αντιγραφή, κοινοποίηση ή συνομιλία.
- Φορητός έλεγχος: Εξαγάγετε συνομιλίες, εκτελέστε τοπικό API επιφάνειας εργασίας όταν το ενεργοποιείτε ρητά και δημιουργήστε κρυπτογραφημένα αρχεία δημιουργίας και επαναφοράς αντιγράφων ασφαλείας.
Σημείωση: Τα ληφθέντα μοντέλα και τα έγγραφα προέλευσης ενδέχεται να έχουν ξεχωριστές άδειες και περιορισμούς χρήσης. Ελέγξτε τα πριν από τη χρήση ή την αναδιανομή.
Ρυθμίσεις
Ανοίξτε τις Ρυθμίσεις για να ελέγξετε τα παρακάτω στοιχεία ελέγχου της εφαρμογής:
- Εγγενής μηχανή, υποσύστημα, νήματα, περιβάλλον, προσωρινή μνήμη, αποθήκευση και προτιμήσεις μοντέλου
- Εξαγωγή Knowledge, embeddings, ανάκτηση, τεκμηρίωση και συμπεριφορά παραπομπών
- Τοπικό API επιφάνειας εργασίας, δίκτυο, κοινοποίηση από κινητό, πρότυπα και actions
- Απόρρητο, κρυπτογραφημένο αντίγραφο ασφαλείας, διαγραφή, εμφάνιση, συντομεύσεις, διαγνωστικά και άδειες
Οι εκδόσεις Trial, Free και Pro χρησιμοποιούν το ίδιο σύνολο λειτουργικών χαρακτηριστικών. Η Pro καταργεί τις διαφημίσεις για κινητά και την καθημερινή υπενθύμιση υποστήριξης για υπολογιστή.
Συντομεύσεις πληκτρολογίου
Σε πλατφόρμες Apple, χρησιμοποιήστε Command όπου η εφαρμογή αντιστοιχίζει μια εμφανιζόμενη συντόμευση Ctrl στον κύριο τροποποιητή της πλατφόρμας. Η σελίδα συντομεύσεων εντός εφαρμογής παραμένει η έγκυρη αναφορά.
| Συντόμευση | Ενέργεια |
|---|---|
| Cmd/Ctrl + N | Νέα συνομιλία |
| Cmd/Ctrl + K | Αναζήτηση συνομιλιών |
| Cmd/Ctrl + M | Επιλογή μοντέλου |
| Cmd/Ctrl + B | Επιλογή Knowledge Base |
| Cmd/Ctrl + Alt/Option + I | Λεπτομέρειες συνομιλίας |
| Esc | Διακοπή δημιουργίας |
Συμβουλές & Κόλπα
Επιλέξτε μικρότερο περιβάλλον εργασίας ή μοντέλο προτού επιβάλετε μια ρύθμιση που δεν χωρά στη μνήμη.
Χρησιμοποιήστε αυστηρή τεκμηρίωση όταν μια απάντηση πρέπει να παραμένει εντός των ευρετηριασμένων πηγών.
Ανοίξτε τις παραπομπές και συγκρίνετε το εξαγμένο απόσπασμα προτού βασιστείτε σε έναν παραγόμενο ισχυρισμό.
Διατηρήστε τις φράσεις πρόσβασης αντιγράφων ασφαλείας χωριστά από το κρυπτογραφημένο αρχείο αντιγράφου ασφαλείας.
Αντιμετώπιση προβλημάτων
| Πρόβλημα | Τι να ελέγξετε |
|---|---|
| Ένα μοντέλο δεν μπορεί να φορτωθεί | Ελέγξτε τη συμβατότητα, την εκτίμηση μνήμης, τον χώρο αποθήκευσης, την επαλήθευση αρχείου, το επιλεγμένο υποσύστημα και άλλη ενεργή συνεδρία μοντέλου. |
| Η δημιουργία είναι αργή | Χρησιμοποιήστε διαγνωστικά συσκευής, μικρότερο μοντέλο ή περιβάλλον, κατάλληλο υποσύστημα και μετρημένη αντί για υποτιθέμενη απόδοση. |
| Το Knowledge δεν έχει απάντηση | Ελέγξτε την εξαγωγή εγγράφων, την κατάσταση ευρετηρίου, τη δοκιμή ανάκτησης, τα φίλτρα και αν η πηγή πράγματι περιέχει τεκμήρια. |
| Ένα αντίγραφο ασφαλείας δεν μπορεί να επαναφερθεί | Επαληθεύστε τη φράση πρόσβασης, την ακεραιότητα του αρχείου, τη συμβατότητα σχήματος, τον ελεύθερο χώρο και τον έλεγχο επαναφοράς πριν αντικαταστήσετε τα τρέχοντα δεδομένα. |
Απόρρητο
- Οι προτροπές, οι συνομιλίες, τα έγγραφα, τα embeddings, η ανάκτηση και το παραγόμενο κείμενο παραμένουν στη συσκευή.
- Η χρήση δικτύου περιορίζεται σε ζητούμενο κατάλογο/αναζήτηση, λήψη μοντέλου, έλεγχο ενημερώσεων ή τελικό σημείο API που ενεργοποιείτε ρητά.
- Οι είσοδοι κοινοποίησης από κινητό είναι προσωρινές και τα εξωτερικά πρωτότυπα δεν διαγράφονται ποτέ.
- Τα δεδομένα του χώρου εργασίας που ανήκουν στην εφαρμογή και τα διαχειριζόμενα αντίγραφα μπορούν να αφαιρεθούν μέσω της ελεγμένης ροής εργασίας απορρήτου.
Η ευθύνη σας: Μην εκθέτετε το προαιρετικό API επιφάνειας εργασίας πέρα από ένα αξιόπιστο όριο και μη χρησιμοποιείτε μοντέλα και έγγραφα κατά παράβαση των αδειών τους.