DeskLLM — это настольное приложение AI-чата, которое запускает большие языковые модели полностью на вашем компьютере. Ваши разговоры никогда не покидают ваше устройство — не требуется подключение к Интернету, без облачных сервисов, без подписок.
Почему DeskLLM?
- 100% конфиденциально — Каждый разговор остаётся на вашем компьютере. Никакие данные не отправляются ни на один сервер. Учётная запись не требуется.
- 100% оффлайн — Загрузите модель один раз, затем используйте её в любое время — в самолёте, в кафе или где угодно без Интернета.
- 100% бесплатно в использовании — Без абонентской платы, без платы за сообщение, без ограничений на токены. Общайтесь сколько хотите.
Ключевые функции
- Загрузка модели одним щелчком — Просматривайте и устанавливайте модели с Hugging Face одним щелчком
- Потоковая передача в реальном времени — Смотрите, как AI отвечает токен за токеном, прямо как облачные сервисы чата
- Несколько разговоров — Держите отдельные сессии чата организованными в боковой панели
- Настраиваемое поведение AI — Регулируйте температуру, длину ответа и системные подсказки
- Встроенный REST API — Локальный API, совместимый с OpenAI, для скриптов и инструментов
- Широкая поддержка моделей — Gemma, Llama, Qwen, Phi, Mistral, DeepSeek и другие
- Многоязычный интерфейс — Поддерживается более 80 языков
- Настраиваемые цвета темы
Выберите свою модель
- Ультра-лёгкая (4 GB+ RAM) — Быстрые вопросы и ответы, простые задачи. Модели: Qwen2.5-0.5B, Llama-3.2-1B
- Лёгкая (8 GB+ RAM) — Ежедневный помощник, быстрые ответы. Модели: Qwen2.5-3B, Llama-3.2-3B
- Стандартная (16 GB+ RAM) — Написание, резюмирование, перевод. Модели: Gemma-2-9B, Qwen2.5-7B
- Высококлассная (32 GB+ RAM) — Генерация кода, сложные рассуждения. Модели: DeepSeek-R1-32B, Qwen2.5-32B
Идеально подходит для
- Пользователей, заботящихся о конфиденциальности, которые не хотят, чтобы разговоры хранились на внешних серверах
- Разработчиков, ищущих локальный AI API для прототипирования и тестирования
- Писателей и студентов, которым нужен всегда доступный помощник для письма
- Профессионалов в ограниченных средах, где облачные AI-сервисы не разрешены
- Всех, кто любопытен в отношении AI и хочет исследовать без подписок или регистраций
Начало работы
- Запустите DeskLLM и щёлкните значок загрузки, чтобы открыть Менеджер моделей
- Выберите рекомендуемую модель, подходящую для RAM вашего компьютера
- Введите сообщение и нажмите Enter — AI отвечает в реальном времени
- Настройте системную подсказку, чтобы сформировать поведение AI
- Используйте боковую панель для управления несколькими разговорами
Конфиденциальность
- Вся обработка AI происходит локально на вашем компьютере
- Никакие данные не собираются, не передаются и не хранятся на внешних серверах
- История чата хранится только на вашем локальном диске
- Единственный сетевой доступ — это загрузка моделей с Hugging Face, инициированная вами
- Без аналитики, телеметрии или отслеживания любого рода