Руководство пользователя QuickLLM
QuickLLM сохраняет вывод, беседы, документы, эмбеддинги, поиск и сгенерированный текст на вашем устройстве, при этом наглядно показывает соответствие модели устройству и назначение сети.
Начало работы
- Запустите диагностику устройства и выберите подходящую модель.
- Скачайте, проверьте и загрузите модель.
- Начните беседу и выберите профиль.
- При необходимости создайте базу знаний, добавьте доверенные документы и проверьте цитаты.
- Экспортируйте важную работу или создайте зашифрованную резервную копию перед перемещением или удалением данных.
Совет: Выберите меньший контекст или модель, прежде чем принудительно использовать конфигурацию, не помещающуюся в память.
Обзор интерфейса
| Раздел | Назначение |
|---|---|
| Чат | Список бесед, выбор модели/профиля/знаний, сообщения, цитаты, контекст, «Отправить» и «Остановить». |
| Модели | Каталог, поиск, совместимость, загрузки, установленные файлы, профили, адаптеры и состояние выполнения. |
| Знания | Базы знаний, документы, извлечение, индексирование, тесты поиска, привязка к источникам и цитаты. |
| Шаблоны & действия | Повторно используемые запросы, типизированные рабочие процессы, входные данные мобильного общего доступа, проверка результата и пути сохранения. |
| Утилиты | Диагностика, загрузки, API для настольного приложения, резервное копирование и восстановление, быстрые действия, настройки, справка, конфиденциальность и лицензии. |
Подходящие модели, ответы, которые можно проверить
QuickLLM отличает измеренные возможности устройства от оценок и связывает обоснованные ответы с фрагментами локальных документов, не придумывая неподтверждённых ссылок.
- Приватный локальный чат: Ведите диалоги с помощью встроенного локального вывода с отображением состояния модели, профиля, базы знаний, контекста, генерации и остановки.
- Соответствие модели: Измеряйте возможности устройства, сравнивайте требования к памяти и хранилищу, загружайте проверенные модели и получайте пояснения по неподдерживаемым конфигурациям.
- Базы знаний: Импортируйте поддерживаемые документы, создавайте локальные индексы, извлекайте обоснованные фрагменты и открывайте источники ссылок.
- Профили и LoRA: Сохраняйте сочетания модели, контекста, выборки, бэкенда и адаптера для повторяемой работы.
- Шаблоны и действия: Повторно используйте приватные промпты и запускайте рабочие процессы с общим текстом, сохраняя результаты доступными для копирования, отправки или продолжения диалога.
- Переносимое управление: Экспортируйте диалоги, запускайте локальный API для настольного приложения при явном включении и создавайте зашифрованные файлы резервного копирования и восстановления.
Примечание: Загруженные модели и исходные документы могут иметь отдельные лицензии и ограничения на использование. Ознакомьтесь с ними перед использованием или распространением.
Настройки
Откройте «Настройки», чтобы просмотреть следующие элементы управления приложения:
- Настройки нативного движка, бэкенда, потоков, контекста, кэша, хранилища и модели
- Извлечение знаний, эмбеддинги, поиск, обоснование и поведение ссылок
- Локальный API для настольного приложения, сеть, мобильный обмен, шаблоны и действия
- Конфиденциальность, зашифрованное резервное копирование, удаление, внешний вид, сочетания клавиш, диагностика и лицензии
Trial, Free и Pro используют один и тот же набор функций. Pro удаляет мобильную рекламу и ежедневное напоминание о поддержке на настольных устройствах.
Сочетания клавиш
На платформах Apple используйте Command, если приложение сопоставляет отображаемое сочетание Ctrl с основным модификатором платформы. Страница сочетаний клавиш в приложении остаётся авторитетным источником.
| Сочетание | Действие |
|---|---|
| Cmd/Ctrl + N | Новый диалог |
| Cmd/Ctrl + K | Поиск диалогов |
| Cmd/Ctrl + M | Выбрать модель |
| Cmd/Ctrl + B | Выбрать базу знаний |
| Cmd/Ctrl + Alt/Option + I | Сведения о диалоге |
| Esc | Остановить генерацию |
Советы & рекомендации
Выберите меньший контекст или модель, прежде чем принудительно использовать конфигурацию, не помещающуюся в память.
Используйте строгое обоснование, когда ответ должен оставаться в пределах проиндексированных источников.
Открывайте ссылки и сравнивайте извлечённый фрагмент, прежде чем полагаться на сгенерированное утверждение.
Храните парольную фразу резервной копии отдельно от зашифрованного файла резервной копии.
Устранение неполадок
| Проблема | Что проверить |
|---|---|
| Не удаётся загрузить модель | Проверьте совместимость, оценку памяти, хранилище, проверку файла, выбранный бэкенд и наличие другого активного сеанса модели. |
| Генерация выполняется медленно | Используйте диагностику устройства, модель или контекст меньшего размера, подходящий бэкенд и измеренную, а не предполагаемую производительность. |
| В базе знаний нет ответа | Проверьте извлечение документа, состояние индекса, тест поиска, фильтры и действительно ли источник содержит подтверждения. |
| Не удаётся восстановить резервную копию | Проверьте парольную фразу, целостность файла, совместимость схемы, свободное место и результаты проверки восстановления, прежде чем заменять текущие данные. |
Конфиденциальность
- Промпты, диалоги, документы, эмбеддинги, поиск и сгенерированный текст остаются на устройстве.
- Сеть используется только для запрошенного каталога или поиска, загрузки модели, проверки обновлений либо явно включённой вами конечной точки API.
- Данные из мобильного обмена являются временными, а внешние оригиналы никогда не удаляются.
- Данные рабочего пространства приложения и управляемые копии можно удалить с помощью проверенного процесса конфиденциальности.
Ваша ответственность: Не открывайте дополнительный API настольного приложения за пределами доверенной среды и не используйте модели и документы вопреки их лицензиям.