Hướng dẫn sử dụng QuickLLM
QuickLLM giữ suy luận, cuộc trò chuyện, tài liệu, dữ liệu nhúng, truy xuất và văn bản tạo sinh trên thiết bị của bạn, đồng thời hiển thị rõ mức độ phù hợp của mô hình và mục đích sử dụng mạng.
Bắt đầu
- Chạy chẩn đoán thiết bị và chọn mô hình phù hợp.
- Tải xuống, xác minh và nạp mô hình.
- Bắt đầu cuộc trò chuyện và chọn một Hồ sơ.
- Tùy chọn tạo Cơ sở kiến thức, thêm tài liệu đáng tin cậy và xác minh trích dẫn.
- Xuất công việc quan trọng hoặc tạo bản sao lưu được mã hóa trước khi di chuyển hoặc xóa dữ liệu.
Mẹo: Chọn ngữ cảnh hoặc mô hình nhỏ hơn trước khi ép buộc một cấu hình không vừa bộ nhớ.
Tổng quan giao diện
| Khu vực | Mục đích |
|---|---|
| Trò chuyện | Danh sách cuộc trò chuyện, lựa chọn mô hình/Hồ sơ/Kiến thức, tin nhắn, trích dẫn, ngữ cảnh, Gửi và Dừng. |
| Mô hình | Danh mục, tìm kiếm, tương thích, tải xuống, tệp đã cài đặt, Hồ sơ, bộ điều hợp và trạng thái thời gian chạy. |
| Kiến thức | Cơ sở kiến thức, tài liệu, trích xuất, lập chỉ mục, kiểm tra truy xuất, căn cứ và trích dẫn. |
| Mẫu & Hành động | Lời nhắc có thể tái sử dụng, quy trình có kiểu dữ liệu, dữ liệu chia sẻ từ di động, xem xét kết quả và đường dẫn lưu. |
| Tiện ích | Chẩn đoán, tải xuống, API máy tính để bàn, sao lưu/khôi phục, thao tác nhanh, Cài đặt, Trợ giúp, quyền riêng tư và giấy phép. |
Mô hình phù hợp, câu trả lời có thể truy vết
QuickLLM phân biệt khả năng thiết bị được đo lường với ước tính và giữ các câu trả lời có căn cứ liên kết với đoạn trích tài liệu cục bộ thay vì tạo ra các trích dẫn không được hỗ trợ.
- Trò chuyện cục bộ riêng tư: Chạy cuộc trò chuyện bằng suy luận cục bộ đóng gói, với trạng thái hiển thị của mô hình, Hồ sơ, Kiến thức, ngữ cảnh, tạo sinh và Dừng.
- Mức độ phù hợp của mô hình: Đo khả năng thiết bị, so sánh nhu cầu bộ nhớ và dung lượng, tải mô hình đã xác minh và giải thích các cấu hình không được hỗ trợ.
- Cơ sở kiến thức: Nhập các tài liệu được hỗ trợ, xây dựng chỉ mục cục bộ, truy xuất các đoạn trích có căn cứ và mở trích dẫn tại nguồn.
- Hồ sơ và LoRA: Lưu các kết hợp mô hình, ngữ cảnh, lấy mẫu, hậu phương, bộ điều hợp để có công việc lặp lại được.
- Mẫu và Hành động: Tái sử dụng lời nhắc riêng tư và chạy quy trình văn bản dùng chung để giữ kết quả sẵn sàng sao chép, chia sẻ hoặc đưa vào cuộc trò chuyện.
- Kiểm soát di động: Xuất cuộc trò chuyện, chạy API cục bộ trên máy tính để bàn khi được bật rõ ràng và tạo tệp sao lưu cũng như khôi phục được mã hóa.
Lưu ý: Mô hình đã tải xuống và tài liệu nguồn có thể có giấy phép và hạn chế sử dụng riêng. Hãy xem xét chúng trước khi sử dụng hoặc phân phối lại.
Cài đặt
Mở Cài đặt để xem lại các tùy chọn điều khiển dành riêng cho ứng dụng sau:
- Công cụ gốc, hậu phương, luồng, ngữ cảnh, bộ nhớ đệm, bộ nhớ lưu trữ và tùy chọn mô hình
- Trích xuất kiến thức, dữ liệu nhúng, truy xuất, căn cứ và hành vi trích dẫn
- API cục bộ trên máy tính để bàn, mạng, chia sẻ từ di động, mẫu và hành động
- Quyền riêng tư, sao lưu mã hóa, xóa, giao diện, phím tắt, chẩn đoán và giấy phép
Trial, Free và Pro sử dụng cùng một bộ tính năng chức năng. Pro loại bỏ quảng cáo trên thiết bị di động và lời nhắc hỗ trợ hằng ngày trên máy tính.
Phím tắt
Trên các nền tảng Apple, hãy dùng Command khi ứng dụng ánh xạ phím tắt Ctrl đang hiển thị sang phím bổ trợ chính của nền tảng. Trang phím tắt trong ứng dụng luôn là nguồn tham chiếu chính thức.
| Phím tắt | Thao tác |
|---|---|
| Cmd/Ctrl + N | Cuộc trò chuyện mới |
| Cmd/Ctrl + K | Tìm kiếm cuộc trò chuyện |
| Cmd/Ctrl + M | Chọn mô hình |
| Cmd/Ctrl + B | Chọn Cơ sở kiến thức |
| Cmd/Ctrl + Alt/Option + I | Chi tiết cuộc trò chuyện |
| Esc | Dừng tạo sinh |
Mẹo & Thủ thuật
Chọn ngữ cảnh hoặc mô hình nhỏ hơn trước khi ép buộc một cấu hình không vừa bộ nhớ.
Dùng căn cứ nghiêm ngặt khi câu trả lời phải nằm trong phạm vi các nguồn đã lập chỉ mục.
Mở trích dẫn và so sánh đoạn trích đã trích xuất trước khi dựa vào một khẳng định do AI tạo ra.
Giữ cụm mật khẩu sao lưu tách biệt với tệp sao lưu được mã hóa.
Khắc phục sự cố
| Vấn đề | Nội dung cần kiểm tra |
|---|---|
| Không thể nạp mô hình | Kiểm tra khả năng tương thích, ước tính bộ nhớ, dung lượng lưu trữ, xác minh tệp, hậu phương đã chọn và một phiên mô hình đang hoạt động khác. |
| Quá trình tạo sinh chậm | Dùng chẩn đoán thiết bị, mô hình hoặc ngữ cảnh nhỏ hơn, hậu phương phù hợp và hiệu năng được đo lường thay vì giả định. |
| Kiến thức không có câu trả lời | Kiểm tra việc trích xuất tài liệu, trạng thái chỉ mục, kiểm tra truy xuất, bộ lọc và liệu nguồn có thực sự chứa bằng chứng hay không. |
| Không thể khôi phục bản sao lưu | Xác minh cụm mật khẩu, tính toàn vẹn tệp, khả năng tương thích lược đồ, dung lượng trống và phần xem xét khôi phục trước khi thay thế dữ liệu hiện tại. |
Quyền riêng tư
- Lời nhắc, cuộc trò chuyện, tài liệu, dữ liệu nhúng, truy xuất và văn bản tạo sinh đều ở trên thiết bị.
- Việc sử dụng mạng chỉ giới hạn ở danh mục/tìm kiếm được yêu cầu, tải mô hình, kiểm tra cập nhật hoặc điểm cuối API mà bạn bật rõ ràng.
- Dữ liệu chia sẻ từ di động chỉ là tạm thời và tệp gốc bên ngoài không bao giờ bị xóa.
- Dữ liệu không gian làm việc do ứng dụng sở hữu và các bản sao được quản lý có thể được xóa thông qua quy trình quyền riêng tư đã được xem xét.
Trách nhiệm của bạn: Không để lộ API máy tính để bàn tùy chọn ra ngoài ranh giới đáng tin cậy và không sử dụng mô hình hoặc tài liệu trái với giấy phép của chúng.