DeskLLM은 대규모 언어 모델을 컴퓨터에서 완전히 실행하는 데스크톱 AI 채팅 애플리케이션입니다. 대화는 절대 기기를 떠나지 않습니다 — 인터넷 연결 불필요, 클라우드 서비스 없음, 구독 없음.
왜 DeskLLM인가?
- 100% 비공개 — 모든 대화가 컴퓨터에 머무릅니다. 어떤 서버에도 데이터가 전송되지 않습니다. 계정 불필요.
- 100% 오프라인 — 모델을 한 번 다운로드한 후, 비행기 안, 카페, 인터넷이 없는 어디에서나 언제든지 사용할 수 있습니다.
- 100% 무료 사용 — 구독료, 메시지당 요금, 토큰 제한이 없습니다. 원하는 만큼 채팅하세요.
주요 기능
- 원클릭 모델 다운로드 — Hugging Face의 모델을 한 번의 클릭으로 탐색하고 설치
- 실시간 스트리밍 — 클라우드 기반 채팅 서비스처럼 토큰 단위로 AI의 응답을 확인
- 여러 대화 — 사이드바에서 별도의 채팅 세션을 정리
- 맞춤형 AI 동작 — 온도, 응답 길이, 시스템 프롬프트 조정
- 내장 REST API — 스크립트 및 도구를 위한 OpenAI 호환 로컬 API
- 광범위한 모델 지원 — Gemma, Llama, Qwen, Phi, Mistral, DeepSeek 등
- 다국어 인터페이스 — 80개 이상의 언어 지원
- 맞춤형 테마 색상
모델 선택
- Ultra Light (4 GB+ RAM) — 빠른 Q&A, 간단한 작업. 모델: Qwen2.5-0.5B, Llama-3.2-1B
- Light (8 GB+ RAM) — 일상 도우미, 빠른 응답. 모델: Qwen2.5-3B, Llama-3.2-3B
- Standard (16 GB+ RAM) — 글쓰기, 요약, 번역. 모델: Gemma-2-9B, Qwen2.5-7B
- High-End (32 GB+ RAM) — 코드 생성, 복잡한 추론. 모델: DeepSeek-R1-32B, Qwen2.5-32B
다음에 적합
- 대화가 외부 서버에 저장되는 것을 원하지 않는 프라이버시 중시 사용자
- 프로토타이핑 및 테스트를 위한 로컬 AI API를 찾는 개발자
- 항상 사용 가능한 글쓰기 도우미를 원하는 작가와 학생
- 클라우드 AI 서비스가 허용되지 않는 제한된 환경의 전문가
- 구독이나 가입 없이 AI를 탐색하고자 하는 호기심 많은 모든 사람
시작하기
- DeskLLM을 실행하고 다운로드 아이콘을 클릭하여 Model Manager를 엽니다
- 컴퓨터의 RAM에 맞는 추천 모델을 선택합니다
- 메시지를 입력하고 Return을 누르세요 — AI가 실시간으로 응답합니다
- 시스템 프롬프트를 사용자 지정하여 AI의 동작을 형성합니다
- 사이드바를 사용하여 여러 대화를 관리합니다
프라이버시
- 모든 AI 처리는 컴퓨터에서 로컬로 수행됩니다
- 외부 서버에서 데이터가 수집, 전송 또는 저장되지 않습니다
- 채팅 기록은 로컬 디스크에만 저장됩니다
- 유일한 네트워크 액세스는 사용자가 시작한 Hugging Face에서 모델을 다운로드하는 것입니다
- 분석, 텔레메트리 또는 어떤 종류의 추적도 없습니다