QuickLLM उपयोगकर्ता मार्गदर्शिका
QuickLLM मॉडल उपयुक्तता और नेटवर्क उद्देश्य को स्पष्ट रखते हुए अनुमान, वार्तालाप, दस्तावेज़, embeddings, पुनर्प्राप्ति और जनित पाठ को आपके डिवाइस पर रखता है।
आरंभ करें
- डिवाइस निदान चलाएँ और उपयुक्त मॉडल चुनें।
- मॉडल डाउनलोड करें, सत्यापित करें और लोड करें।
- वार्तालाप शुरू करें और Profile चुनें।
- वैकल्पिक रूप से Knowledge Base बनाएँ, विश्वसनीय दस्तावेज़ जोड़ें और उद्धरण सत्यापित करें।
- डेटा स्थानांतरित करने या हटाने से पहले महत्वपूर्ण कार्य निर्यात करें या एन्क्रिप्टेड बैकअप बनाएँ।
सुझाव: मेमोरी में न समाने वाले कॉन्फ़िगरेशन को बाध्य करने से पहले छोटा संदर्भ या मॉडल चुनें।
इंटरफ़ेस अवलोकन
| क्षेत्र | उद्देश्य |
|---|---|
| चैट | वार्तालाप सूची, मॉडल/Profile/Knowledge चयन, संदेश, उद्धरण, संदर्भ, भेजें और रोकें। |
| मॉडल | कैटलॉग, खोज, संगतता, डाउनलोड, इंस्टॉल की गई फ़ाइलें, Profiles, adapters और रनटाइम स्थिति। |
| Knowledge | Knowledge Bases, दस्तावेज़, निष्कर्षण, अनुक्रमण, पुनर्प्राप्ति परीक्षण, आधारकरण और उद्धरण। |
| Templates & Actions | पुन: उपयोग योग्य प्रॉम्प्ट, टाइप किए गए कार्यप्रवाह, मोबाइल शेयर इनपुट, परिणाम समीक्षा और सहेजने के पथ। |
| उपयोगिताएँ | निदान, डाउनलोड, डेस्कटॉप API, बैकअप/पुनर्स्थापन, त्वरित क्रिया, Settings, Help, गोपनीयता और लाइसेंस। |
उपयुक्त मॉडल, पता लगाने योग्य उत्तर
QuickLLM मापी गई डिवाइस क्षमता को अनुमान से अलग करता है और आधारयुक्त उत्तरों को असमर्थित उद्धरण गढ़ने के बजाय स्थानीय दस्तावेज़ अंशों से जुड़ा रखता है।
- निजी स्थानीय चैट: दृश्य मॉडल, Profile, Knowledge, संदर्भ, जनरेशन और रोकें स्थिति के साथ पैकेज्ड स्थानीय अनुमान द्वारा वार्तालाप चलाएँ।
- मॉडल उपयुक्तता: डिवाइस क्षमता मापें, मेमोरी और स्टोरेज आवश्यकताओं की तुलना करें, सत्यापित मॉडल डाउनलोड करें और असमर्थित कॉन्फ़िगरेशन समझाएँ।
- Knowledge Bases: समर्थित दस्तावेज़ ग्रहण करें, स्थानीय इंडेक्स बनाएँ, आधारयुक्त अंश पुनर्प्राप्त करें और उद्धरण उनके स्रोत पर खोलें।
- Profiles और LoRA: दोहराए जाने योग्य काम के लिए मॉडल, संदर्भ, सैंपलिंग, बैकएंड और adapter संयोजन सहेजें।
- Templates और Actions: निजी प्रॉम्प्ट का पुन: उपयोग करें और साझा-पाठ कार्यप्रवाह चलाएँ जो परिणामों को कॉपी, शेयर या वार्तालाप के लिए उपलब्ध रखते हैं।
- पोर्टेबल नियंत्रण: वार्तालाप निर्यात करें, स्पष्ट रूप से सक्षम होने पर डेस्कटॉप स्थानीय API चलाएँ और एन्क्रिप्टेड बैकअप तथा पुनर्स्थापन फ़ाइलें बनाएँ।
नोट: डाउनलोड किए गए मॉडल और स्रोत दस्तावेज़ों के अलग लाइसेंस और उपयोग प्रतिबंध हो सकते हैं। उपयोग या पुनर्वितरण से पहले उनकी समीक्षा करें।
सेटिंग्स
निम्नलिखित ऐप-विशिष्ट नियंत्रणों की समीक्षा करने के लिए Settings खोलें:
- नेटिव इंजन, बैकएंड, थ्रेड, संदर्भ, कैश, स्टोरेज और मॉडल प्राथमिकताएँ
- Knowledge निष्कर्षण, embeddings, पुनर्प्राप्ति, आधारकरण और उद्धरण व्यवहार
- डेस्कटॉप स्थानीय API, नेटवर्क, मोबाइल शेयर, templates और actions
- गोपनीयता, एन्क्रिप्टेड बैकअप, हटाना, रूप-रंग, शॉर्टकट, निदान और लाइसेंस
Trial, Free और Pro एक ही कार्यात्मक सुविधा सेट का उपयोग करते हैं। Pro मोबाइल विज्ञापन और दैनिक डेस्कटॉप सहायता अनुस्मारक हटाता है।
कीबोर्ड शॉर्टकट
Apple प्लेटफ़ॉर्म पर, जहाँ ऐप प्रदर्शित Ctrl शॉर्टकट को प्लेटफ़ॉर्म के प्राथमिक मॉडिफ़ायर से मैप करता है, वहाँ Command का उपयोग करें। ऐप में शॉर्टकट पृष्ठ अंतिम प्राधिकरण बना रहता है।
| शॉर्टकट | कार्रवाई |
|---|---|
| Cmd/Ctrl + N | नया वार्तालाप |
| Cmd/Ctrl + K | वार्तालाप खोजें |
| Cmd/Ctrl + M | मॉडल चुनें |
| Cmd/Ctrl + B | Knowledge Base चुनें |
| Cmd/Ctrl + Alt/Option + I | वार्तालाप विवरण |
| Esc | जनरेशन रोकें |
सुझाव & तरकीबें
मेमोरी में न समाने वाले कॉन्फ़िगरेशन को बाध्य करने से पहले छोटा संदर्भ या मॉडल चुनें।
जब उत्तर को अनुक्रमित स्रोतों तक सीमित रखना हो, तो सख्त आधारकरण का उपयोग करें।
जनित दावे पर भरोसा करने से पहले उद्धरण खोलें और निकाले गए अंश की तुलना करें।
बैकअप पासफ़्रेज़ को एन्क्रिप्टेड बैकअप फ़ाइल से अलग रखें।
समस्या निवारण
| समस्या | क्या जाँचें |
|---|---|
| एक मॉडल लोड नहीं हो सकता | संगतता, मेमोरी अनुमान, स्टोरेज, फ़ाइल सत्यापन, चयनित बैकएंड और किसी अन्य सक्रिय मॉडल सत्र की जाँच करें। |
| जनरेशन धीमी है | डिवाइस निदान, छोटा मॉडल या संदर्भ, उपयुक्त बैकएंड और अनुमानित नहीं बल्कि मापे गए प्रदर्शन का उपयोग करें। |
| Knowledge में उत्तर नहीं है | दस्तावेज़ निष्कर्षण, इंडेक्स स्थिति, पुनर्प्राप्ति परीक्षण, फ़िल्टर और यह जाँचें कि स्रोत में वास्तव में प्रमाण है या नहीं। |
| बैकअप पुनर्स्थापित नहीं हो सकता | वर्तमान डेटा बदलने से पहले पासफ़्रेज़, फ़ाइल अखंडता, स्कीमा संगतता, खाली स्थान और पुनर्स्थापन समीक्षा सत्यापित करें। |
गोपनीयता
- प्रॉम्प्ट, वार्तालाप, दस्तावेज़, embeddings, पुनर्प्राप्ति और जनित पाठ डिवाइस पर ही रहते हैं।
- नेटवर्क उपयोग अनुरोधित कैटलॉग/खोज, मॉडल डाउनलोड, अपडेट जाँच या आपके द्वारा स्पष्ट रूप से सक्षम API endpoint तक सीमित है।
- मोबाइल शेयर इनपुट अस्थायी होते हैं और बाहरी मूल फ़ाइलें कभी हटाई नहीं जातीं।
- ऐप के स्वामित्व वाले कार्यस्थान डेटा और प्रबंधित प्रतियाँ समीक्षित गोपनीयता कार्यप्रवाह के माध्यम से हटाई जा सकती हैं।
आपकी ज़िम्मेदारी: वैकल्पिक डेस्कटॉप API को विश्वसनीय सीमा से बाहर उजागर न करें और मॉडल व दस्तावेज़ों का उपयोग उनके लाइसेंस के विरुद्ध न करें।