DeskLLM은 대형 언어 모델을 컴퓨터에서 완전히 실행하는 데스크톱 AI 채팅 애플리케이션입니다. 대화는 기기를 떠나지 않습니다 — 인터넷 연결이 필요하지 않고, 클라우드 서비스도 없으며, 구독도 없습니다.
왜 DeskLLM인가?
- 100% 비공개 — 모든 대화는 컴퓨터에 남아 있습니다. 어떤 서버로도 데이터를 보내지 않습니다. 계정이 필요 없습니다.
- 100% 오프라인 — 모델을 한 번 다운로드하면 언제든지 사용할 수 있습니다 — 비행기에서, 카페에서 또는 인터넷 없이 어디에서나.
- 100% 무료 사용 — 구독료 없음, 메시지당 비용 없음, 토큰 제한 없음. 원하는 만큼 채팅하세요.
주요 기능
- 원클릭 모델 다운로드 — 한 번의 클릭으로 Hugging Face에서 모델을 탐색하고 설치
- 실시간 스트리밍 — 클라우드 기반 채팅 서비스처럼 AI가 토큰 단위로 응답하는 것을 확인
- 여러 대화 — 사이드바에서 별도의 채팅 세션을 정리하여 유지
- 사용자 지정 가능한 AI 동작 — 온도, 응답 길이 및 시스템 프롬프트 조정
- 내장 REST API — 스크립트 및 도구용 OpenAI 호환 로컬 API
- 광범위한 모델 지원 — Gemma, Llama, Qwen, Phi, Mistral, DeepSeek 등
- 다국어 인터페이스 — 80개 이상의 언어 지원
- 사용자 지정 가능한 테마 색상
모델 선택
- 초경량 (4 GB+ RAM) — 빠른 Q&A, 간단한 작업. 모델: Qwen2.5-0.5B, Llama-3.2-1B
- 경량 (8 GB+ RAM) — 일일 어시스턴트, 빠른 응답. 모델: Qwen2.5-3B, Llama-3.2-3B
- 표준 (16 GB+ RAM) — 작성, 요약, 번역. 모델: Gemma-2-9B, Qwen2.5-7B
- 하이엔드 (32 GB+ RAM) — 코드 생성, 복잡한 추론. 모델: DeepSeek-R1-32B, Qwen2.5-32B
다음과 같은 경우에 적합
- 대화를 외부 서버에 저장하지 않으려는 개인정보 보호를 중시하는 사용자
- 프로토타이핑 및 테스트를 위한 로컬 AI API를 찾는 개발자
- 항상 사용 가능한 글쓰기 도우미를 원하는 작가 및 학생
- 클라우드 AI 서비스가 허용되지 않는 제한된 환경의 전문가
- 구독이나 가입 없이 탐색하고자 하는 AI에 호기심 있는 모든 사람
시작하기
- DeskLLM을 실행하고 다운로드 아이콘을 클릭하여 모델 관리자를 엽니다
- 컴퓨터의 RAM에 맞는 권장 모델을 선택하세요
- 메시지를 입력하고 Return을 누르세요 — AI가 실시간으로 응답합니다
- AI의 동작을 형성하기 위해 시스템 프롬프트를 사용자 지정하세요
- 여러 대화를 관리하려면 사이드바를 사용하세요
개인정보 보호
- 모든 AI 처리는 컴퓨터에서 로컬로 이루어집니다
- 외부 서버에 데이터가 수집, 전송 또는 저장되지 않습니다
- 채팅 기록은 로컬 디스크에만 저장됩니다
- 유일한 네트워크 액세스는 사용자가 시작한 Hugging Face에서의 모델 다운로드입니다
- 어떤 종류의 분석, 원격 측정 또는 추적도 없습니다