QuickLLM - Rehber

QuickLLM Kullanım Kılavuzu

QuickLLM, model uygunluğunu ve ağ amacını görünür kılarken çıkarımı, konuşmaları, belgeleri, gömlemeleri, getirmeyi ve oluşturulan metni cihazınızda tutar.

Başlarken

  1. Cihaz tanılamasını çalıştırın ve uygun bir model seçin.
  2. Modeli indirin, doğrulayın ve yükleyin.
  3. Bir konuşma başlatın ve bir Profil seçin.
  4. İsteğe bağlı olarak bir Bilgi Tabanı oluşturun, güvenilir belgeler ekleyin ve atıfları doğrulayın.
  5. Verileri taşımadan veya silmeden önce önemli çalışmaları dışa aktarın ya da şifrelenmiş bir yedek oluşturun.
İpucu: Belleğe sığmayan bir yapılandırmayı zorlamadan önce daha küçük bir bağlam veya model seçin.

Arayüze Genel Bakış

AlanAmaç
SohbetKonuşma listesi, model/Profil/Bilgi seçimi, mesajlar, atıflar, bağlam, Gönder ve Durdur.
ModellerKatalog, arama, uyumluluk, indirmeler, yüklü dosyalar, Profiller, bağdaştırıcılar ve çalışma zamanı durumu.
KnowledgeBilgi Tabanları, belgeler, çıkarma, dizinleme, getirme testleri, temellendirme ve atıflar.
Şablonlar & EylemlerYeniden kullanılabilir istemler, türü belirlenmiş iş akışları, mobil paylaşım girdisi, sonuç incelemesi ve kaydetme yolları.
Yardımcı AraçlarTanılama, indirmeler, masaüstü API’si, yedekleme/geri yükleme, hızlı işlem, Ayarlar, Yardım, gizlilik ve lisanslar.

Uygun Modeller, İzlenebilir Yanıtlar

QuickLLM, ölçülen cihaz yeteneğini tahminlerden ayırır ve temellendirilmiş yanıtları desteklenmeyen atıflar uydurmak yerine yerel belge alıntılarına bağlı tutar.

  • Özel yerel sohbet: Görünür model, Profil, Bilgi, bağlam, oluşturma ve Durdur durumu ile paketlenmiş yerel çıkarım aracılığıyla konuşmalar yürütün.
  • Model uygunluğu: Cihaz yeteneğini ölçün, bellek ve depolama gereksinimlerini karşılaştırın, doğrulanmış modelleri indirin ve desteklenmeyen yapılandırmaları açıklayın.
  • Bilgi Tabanları: Desteklenen belgeleri alın, yerel dizinler oluşturun, temellendirilmiş alıntıları getirin ve atıfları kaynaklarında açın.
  • Profiller ve LoRA: Tekrarlanabilir çalışma için model, bağlam, örnekleme, arka uç ve bağdaştırıcı bileşimlerini kaydedin.
  • Şablonlar ve Eylemler: Özel istemleri yeniden kullanın ve sonuçları kopyalama, paylaşma veya konuşma için kullanılabilir tutan paylaşımlı metin iş akışlarını çalıştırın.
  • Taşınabilir denetim: Konuşmaları dışa aktarın, açıkça etkinleştirildiğinde masaüstü yerel API’sini çalıştırın ve şifrelenmiş yedekleme ve geri yükleme dosyaları oluşturun.
Not: İndirilen modeller ve kaynak belgelerin ayrı lisansları ve kullanım kısıtlamaları olabilir. Kullanmadan veya yeniden dağıtmadan önce bunları inceleyin.

Ayarlar

Aşağıdaki uygulamaya özgü denetimleri incelemek için Settings'i açın:

  • Yerel motor, arka uç, iş parçacıkları, bağlam, önbellek, depolama ve model tercihleri
  • Bilgi çıkarma, gömlemeler, getirme, temellendirme ve atıf davranışı
  • Masaüstü yerel API’si, ağ, mobil paylaşım, şablonlar ve eylemler
  • Gizlilik, şifreli yedekleme, silme, görünüm, kısayollar, tanılama ve lisanslar

Trial, Free ve Pro aynı işlevsel özellik setini kullanır. Pro, mobil reklamları ve günlük masaüstü destek hatırlatıcısını kaldırır.

Klavye Kısayolları

Apple platformlarında, uygulamanın görüntülenen Ctrl kısayolunu platformun birincil değiştiricisine eşlediği yerlerde Command kullanın. Uygulama içi kısayol sayfası yetkili kaynak olmaya devam eder.

KısayolEylem
Cmd/Ctrl + NYeni konuşma
Cmd/Ctrl + KKonuşmalarda ara
Cmd/Ctrl + MModel seçin
Cmd/Ctrl + BBilgi Bankası seçin
Cmd/Ctrl + Alt/Option + IKonuşma ayrıntıları
EscOluşturmayı durdur

İpuçları & Püf Noktaları

Belleğe sığmayan bir yapılandırmayı zorlamadan önce daha küçük bir bağlam veya model seçin.
Bir yanıtın dizine eklenmiş kaynakların dışına çıkmaması gerektiğinde katı temellendirme kullanın.
Oluşturulan bir iddiaya güvenmeden önce alıntıları açın ve çıkarılan bölümü karşılaştırın.
Yedekleme parolalarını şifreli yedekleme dosyasından ayrı tutun.

Sorun Giderme

SorunKontrol edilecekler
Bir model yüklenemiyorUyumluluğu, bellek tahminini, depolamayı, dosya doğrulamasını, seçili arka ucu ve etkin başka bir model oturumunu kontrol edin.
Oluşturma yavaşCihaz tanılamasını, daha küçük bir modeli veya bağlamı, uygun bir arka ucu ve varsayılan değil ölçülmüş performansı kullanın.
Bilgi Bankası'nda yanıt yokBelge çıkarımını, dizin durumunu, getirme testini, filtreleri ve kaynağın gerçekten kanıt içerip içermediğini gözden geçirin.
Bir yedekleme geri yüklenemiyorMevcut verilerin yerine koymadan önce parolayı, dosya bütünlüğünü, şema uyumluluğunu, boş alanı ve geri yükleme incelemesini doğrulayın.

Gizlilik

  • İstemler, konuşmalar, belgeler, gömmeler, getirme verileri ve oluşturulan metin cihazda kalır.
  • Ağ kullanımı; istenen katalog/arama, model indirme, güncelleme denetimi veya açıkça etkinleştirdiğiniz bir API uç noktasıyla sınırlıdır.
  • Mobil paylaşım girdileri geçicidir ve haricî özgün dosyalar asla silinmez.
  • Uygulamaya ait çalışma alanı verileri ve yönetilen kopyalar, gözden geçirilmiş gizlilik iş akışı aracılığıyla kaldırılabilir.
Sorumluluğunuz: İsteğe bağlı masaüstü API'sini güvenilir bir sınırın ötesine açmayın veya modelleri ve belgeleri lisanslarına aykırı kullanmayın.