kakitiro.com

AIProxyServer - 홈

AIProxyServer는 11개의 주요 클라우드 AI 제공업체에 대해 단일 OpenAI-compatible API를 노출하는 로컬 proxy입니다. 다른 앱은 http://localhost에 연결하고, AIProxyServer가 API 키를 보관하고, 업스트림 요청을 라우팅하며, 각 제공업체의 프로토콜을 이미 익숙한 OpenAI 형식으로 변환합니다.

AIProxyServer

AIProxyServer

AIProxyServer - Main Screen

AIProxyServer - Main Screen

왜 AIProxyServer인가?

  • 하나의 금고, 모든 제공업체 — ChatGPT, Claude, Gemini, Grok 등의 API 키를 한 번만 저장하세요. 연결된 모든 앱이 비밀을 보지 않고도 이를 재사용합니다.
  • App Store 친화적 — 스토어를 통해 배포되는 모바일 및 태블릿 앱은 API 키 등록 화면을 포함할 수 없습니다. Mac에서 실행 중인 AIProxyServer로 그런 앱들을 가리키면 이 제약이 사라집니다.
  • 드롭인 OpenAI 호환성 — OpenAI Chat Completions API를 사용하는 모든 클라이언트가 즉시 동작합니다. Claude, Gemini, ERNIE 또는 지원되는 어떤 클라우드에도 커스텀 어댑터가 필요 없습니다.
  • 디스크에서 암호화 — API 키는 머신별 마스터 키와 제한된 파일 권한으로 암호화된 금고에 저장됩니다.

주요 기능

  • 11개 클라우드 제공업체 — OpenAI (ChatGPT), Anthropic (Claude), Google (Gemini), xAI (Grok), Azure OpenAI (Copilot), Perplexity, Groq, DeepSeek, Moonshot (Kimi), Alibaba (Qwen), Baidu (ERNIE)
  • OpenAI-compatible 엔드포인트 — 모든 제공업체에서 /<provider>/v1/chat/completions와 /<provider>/v1/models
  • 실시간 스트리밍 — 모든 제공업체에 대해 Server-Sent Events (SSE) 전달. 네이티브 형식이 다른 Anthropic과 Gemini도 즉석에서 변환
  • 선택적 Bearer Token 인증 — 손쉬운 로컬 사용을 위해 기본적으로 꺼져 있으며, proxy를 LAN에 공개할 때 쉽게 켤 수 있음
  • 기본적으로 localhost 전용 — 네트워크 노출은 옵트인 방식이며, LAN 액세스를 활성화할 때까지 proxy는 127.0.0.1에만 바인딩
  • 암호화된 자격 증명 금고 — API 키와 시크릿 키를 Fernet 암호화와 0600 마스터 키 파일로 저장
  • 실행 시 자동 시작 — 앱을 띄우면 proxy가 즉시 요청을 받을 준비 완료
  • 제공업체별 메모와 링크 — 메인 창에서 각 제공업체의 API 키 페이지로 빠르게 접근

이런 분께 완벽

  • 스토어 정책으로 인해 API 키 등록 UI를 내장할 수 없는 크로스 플랫폼 앱을 만드는 개발자
  • 모든 클라우드 AI에 대해 단일 OpenAI-compatible 백엔드를 원하는 Flutter, Swift, Electron, 웹 앱 개발자
  • 여러 AI 서비스를 구독하며 클라이언트 코드를 변경하지 않고 제공업체를 전환하고 싶은 파워 유저
  • 같은 Wi-Fi 네트워크의 폰, 태블릿, 노트북을 위한 AI 게이트웨이로 단일 Mac을 공유하는 소규모 팀
  • API 키를 모든 앱 설정에 흩어놓기보다 자신의 컴퓨터에 있는 하나의 금고에 보관하고 싶은 모든 사용자

시작하기

  • AIProxyServer 실행 — proxy가 포트 8421에서 자동으로 시작됨
  • 목록에서 제공업체를 선택하고 Set API Key를 클릭한 다음, 제공업체 콘솔에서 얻은 키를 붙여넣기
  • ERNIE는 API Key와 Secret Key 모두를 추가. Azure OpenAI는 배포 엔드포인트 URL을 붙여넣기
  • OpenAI SDK 또는 호환 HTTP 클라이언트를 사용해 클라이언트 앱을 http://localhost:8421/<provider>/v1로 향하게 함
  • 같은 Wi-Fi의 다른 기기에서 proxy에 접근하려면 Allow LAN Access를 활성화하고 Require Bearer Token을 켜서 보호

개인정보 보호

  • API 키는 절대 당신의 컴퓨터를 떠나지 않습니다. 마스터 키로 암호화되어 ~/Library/Application Support/AIProxyServer/에 0600 권한으로 저장
  • proxy는 명시적으로 구성한 제공업체에만 요청을 전달 — 다른 어디에도 아무것도 전송되지 않음
  • 텔레메트리, 분석, 백그라운드 호출이 일절 없음
  • 계정 없음, 가입 없음, 클라우드 구성 요소 없음. proxy는 당신이 운영하고, 키는 당신의 것
  • 기본적으로 localhost만 수신; LAN 노출은 사용자가 직접 켜야 함