คู่มือผู้ใช้ QuickLLM
QuickLLM เก็บการอนุมาน การสนทนา เอกสาร embeddings การค้นคืน และข้อความที่สร้างไว้ในอุปกรณ์ของคุณ พร้อมทำให้ความเหมาะสมของโมเดลและวัตถุประสงค์เครือข่ายมองเห็นได้
เริ่มต้นใช้งาน
- เรียกใช้การวินิจฉัยอุปกรณ์และเลือกโมเดลที่เหมาะสม
- ดาวน์โหลด ตรวจสอบ และโหลดโมเดล
- เริ่มการสนทนาและเลือก Profile
- เลือกสร้าง Knowledge Base เพิ่มเอกสารที่เชื่อถือได้ และตรวจสอบแหล่งอ้างอิงได้ตามต้องการ
- ส่งออกงานสำคัญหรือสร้างข้อมูลสำรองที่เข้ารหัสก่อนย้ายหรือลบข้อมูล
เคล็ดลับ: เลือกบริบทหรือโมเดลที่เล็กลงก่อนบังคับใช้การกำหนดค่าที่ไม่พอดีกับหน่วยความจำ
ภาพรวมของอินเทอร์เฟซ
| ส่วน | วัตถุประสงค์ |
|---|---|
| Chat | รายการสนทนา การเลือกโมเดล/Profile/Knowledge ข้อความ แหล่งอ้างอิง บริบท Send และ Stop |
| Models | แค็ตตาล็อก การค้นหา ความเข้ากันได้ การดาวน์โหลด ไฟล์ที่ติดตั้ง Profiles อะแดปเตอร์ และสถานะรันไทม์ |
| Knowledge | Knowledge Bases เอกสาร การแยกข้อมูล การจัดทำดัชนี การทดสอบการค้นคืน การยึดโยง และแหล่งอ้างอิง |
| Templates & Actions | พรอมต์ที่ใช้ซ้ำได้ เวิร์กโฟลว์แบบมีประเภท ข้อมูลเข้าจากการแชร์บนมือถือ การตรวจทานผลลัพธ์ และเส้นทางบันทึก |
| Utilities | การวินิจฉัย การดาวน์โหลด API เดสก์ท็อป การสำรอง/กู้คืน การดำเนินการด่วน Settings Help ความเป็นส่วนตัว และใบอนุญาต |
โมเดลที่เหมาะสม คำตอบที่ติดตามได้
QuickLLM แยกความสามารถของอุปกรณ์ที่วัดได้ออกจากการประมาณการ และคงคำตอบที่ยึดโยงไว้ให้เชื่อมกับข้อความตัดตอนของเอกสารในเครื่อง แทนการสร้างแหล่งอ้างอิงที่ไม่มีหลักฐาน
- แชตส่วนตัวในเครื่อง: เรียกใช้การสนทนาผ่านการอนุมานในเครื่องที่บรรจุมา พร้อมสถานะโมเดล Profile Knowledge บริบท การสร้าง และ Stop ที่มองเห็นได้
- ความเหมาะสมของโมเดล: วัดความสามารถอุปกรณ์ เปรียบเทียบความต้องการหน่วยความจำและพื้นที่จัดเก็บ ดาวน์โหลดโมเดลที่ตรวจสอบแล้ว และอธิบายการกำหนดค่าที่ไม่รองรับ
- Knowledge Bases: นำเข้าเอกสารที่รองรับ สร้างดัชนีในเครื่อง ค้นคืนข้อความตัดตอนที่ยึดโยง และเปิดแหล่งอ้างอิงที่ต้นทาง
- Profiles และ LoRA: บันทึกชุดค่าผสมของโมเดล บริบท การสุ่มตัวอย่าง แบ็กเอนด์ และอะแดปเตอร์สำหรับงานที่ทำซ้ำได้
- Templates และ Actions: ใช้พรอมต์ส่วนตัวซ้ำและเรียกใช้เวิร์กโฟลว์ข้อความที่แชร์ ซึ่งคงผลลัพธ์ไว้สำหรับคัดลอก แชร์ หรือสนทนา
- การควบคุมแบบพกพา: ส่งออกการสนทนา เรียกใช้ API ในเครื่องบนเดสก์ท็อปเมื่อเปิดใช้งานอย่างชัดเจน และสร้างไฟล์สำรองและกู้คืนที่เข้ารหัส
หมายเหตุ: โมเดลที่ดาวน์โหลดและเอกสารต้นทางอาจมีใบอนุญาตและข้อจำกัดการใช้งานแยกต่างหาก โปรดตรวจทานก่อนใช้หรือเผยแพร่ต่อ
การตั้งค่า
เปิด Settings เพื่อตรวจสอบตัวควบคุมเฉพาะแอปต่อไปนี้:
- เอนจินดั้งเดิม แบ็กเอนด์ เธรด บริบท แคช พื้นที่จัดเก็บ และการกำหนดลักษณะโมเดล
- การแยก Knowledge, embeddings, การค้นคืน การยึดโยง และพฤติกรรมแหล่งอ้างอิง
- API ในเครื่องบนเดสก์ท็อป เครือข่าย การแชร์บนมือถือ templates และ actions
- ความเป็นส่วนตัว ข้อมูลสำรองที่เข้ารหัส การลบ รูปลักษณ์ แป้นลัด การวินิจฉัย และใบอนุญาต
Trial, Free และ Pro ใช้ชุดคุณลักษณะการทำงานเดียวกัน Pro จะลบโฆษณาบนมือถือและการแจ้งเตือนสนับสนุนรายวันบนเดสก์ท็อป
แป้นพิมพ์ลัด
บนแพลตฟอร์ม Apple ให้ใช้ Command เมื่อแอปแมปทางลัด Ctrl ที่แสดงไว้กับปุ่มปรับแต่งหลักของแพลตฟอร์ม หน้าทางลัดในแอปยังคงเป็นข้อมูลอ้างอิงหลัก
| ทางลัด | การทำงาน |
|---|---|
| Cmd/Ctrl + N | การสนทนาใหม่ |
| Cmd/Ctrl + K | ค้นหาการสนทนา |
| Cmd/Ctrl + M | เลือกโมเดล |
| Cmd/Ctrl + B | เลือก Knowledge Base |
| Cmd/Ctrl + Alt/Option + I | รายละเอียดการสนทนา |
| Esc | หยุดการสร้าง |
เคล็ดลับ & เทคนิค
เลือกบริบทหรือโมเดลที่เล็กลงก่อนบังคับใช้การกำหนดค่าที่ไม่พอดีกับหน่วยความจำ
ใช้การยึดโยงที่เข้มงวดเมื่อคำตอบต้องอยู่ภายในแหล่งข้อมูลที่จัดทำดัชนี
เปิดแหล่งอ้างอิงและเปรียบเทียบข้อความตัดตอนที่แยกออกมาก่อนเชื่อถือข้ออ้างที่สร้างขึ้น
เก็บวลีรหัสข้อมูลสำรองแยกจากไฟล์สำรองที่เข้ารหัส
การแก้ปัญหา
| ปัญหา | สิ่งที่ต้องตรวจสอบ |
|---|---|
| ไม่สามารถโหลดโมเดลได้ | ตรวจสอบความเข้ากันได้ การประมาณหน่วยความจำ พื้นที่จัดเก็บ การตรวจสอบไฟล์ แบ็กเอนด์ที่เลือก และเซสชันโมเดลอื่นที่กำลังทำงาน |
| การสร้างช้า | ใช้การวินิจฉัยอุปกรณ์ โมเดลหรือบริบทที่เล็กลง แบ็กเอนด์ที่เหมาะสม และประสิทธิภาพที่วัดได้แทนที่คาดเดา |
| Knowledge ไม่มีคำตอบ | ตรวจทานการแยกเอกสาร สถานะดัชนี การทดสอบการค้นคืน ตัวกรอง และว่าแหล่งข้อมูลมีหลักฐานจริงหรือไม่ |
| ไม่สามารถกู้คืนข้อมูลสำรองได้ | ตรวจสอบวลีรหัส ความสมบูรณ์ของไฟล์ ความเข้ากันได้ของสคีมา พื้นที่ว่าง และการตรวจทานการกู้คืนก่อนแทนที่ข้อมูลปัจจุบัน |
ความเป็นส่วนตัว
- พรอมต์ การสนทนา เอกสาร embeddings การค้นคืน และข้อความที่สร้างจะอยู่ในอุปกรณ์
- การใช้เครือข่ายจำกัดเฉพาะแค็ตตาล็อก/การค้นหาที่ขอ การดาวน์โหลดโมเดล การตรวจสอบอัปเดต หรือปลายทาง API ที่คุณเปิดใช้งานอย่างชัดเจน
- ข้อมูลเข้าจากการแชร์บนมือถือเป็นข้อมูลชั่วคราว และต้นฉบับภายนอกจะไม่ถูกลบ
- ข้อมูลเวิร์กสเปซที่แอปเป็นเจ้าของและสำเนาที่จัดการสามารถลบได้ผ่านเวิร์กโฟลว์ความเป็นส่วนตัวที่ตรวจทานแล้ว
ความรับผิดชอบของคุณ: อย่าเปิดเผย API เดสก์ท็อปแบบเลือกใช้เกินขอบเขตที่เชื่อถือได้ หรือใช้โมเดลและเอกสารขัดต่อใบอนุญาตของตน