CortexBox — 로컬 LLM 런타임

내 PC와 서버에서
LLM을 직접 실행하세요

CortexBox는 Cortexable 플랫폼의 로컬 LLM 런타임입니다. Windows PC 또는 Linux 서버에 설치하면 즉시 로컬 추론 환경이 구축됩니다. Cortexable 계정 없이 로컬 전용으로도 독립 실행이 가능합니다.

🪟 Windows 다운로드 🐧 Linux 다운로드 🍎 macOS — 준비중

다운로드

플랫폼을 선택하세요

최신 릴리즈 — v0.9.1  ·  2025-06-01

🪟

Windows

최신

Windows 10 이상 · x86-64

버전 v0.9.1
파일명 CortexBox-v0.9.1-setup.exe
크기 42 MB
출시일 2025-06-01

SHA-256

3a7f9c2e18b4d5f60a1b2c3d4e5f6a7b8c9d0e1f2a3b4c5d6e7f8a9b0c1d2e3f
⬇ Windows 다운로드
🐧

Linux

최신

systemd 서비스 기반 · x86-64

버전 v0.9.1
파일명 CortexBox-v0.9.1-amd64.deb
크기 37 MB
출시일 2025-06-01

SHA-256

f1a2b3c4d5e6f7a8b9c0d1e2f3a4b5c6d7e8f9a0b1c2d3e4f5a6b7c8d9e0f1a2
⬇ Ubuntu / Debian 다운로드
버전 v0.9.1
파일명 CortexBox-v0.9.1-1.x86_64.rpm
크기 35 MB
출시일 2025-06-01

SHA-256

d4e5f6a7b8c9d0e1f2a3b4c5d6e7f8a9b0c1d2e3f4a5b6c7d8e9f0a1b2c3d4e5
⬇ RHEL / Rocky 다운로드
🍎

macOS

준비중

macOS 12 이상 · Apple Silicon / Intel

버전 미정
파일명 CortexBox.dmg
크기 —
출시일 미정

SHA-256

—

시스템 요구사항

🪟 Windows

Windows 10 이상 (x86-64)
RAM 4GB 이상, 저장소 10GB 이상

🐧 Linux

Ubuntu 20.04+ / Debian 11+  ·  RHEL 8+ / Rocky 8+ (x86-64)
RAM 4GB 이상, 저장소 10GB 이상  ·  systemd 필수

🍎 macOS 준비중

macOS 12 이상 (Apple Silicon · Intel)
RAM 4GB 이상, 저장소 10GB 이상

⚡ GPU (선택)

NVIDIA CUDA 11+ 또는 AMD ROCm 6+
GPU 없이 CPU로도 동작 가능

설치 가이드

5분 안에 시작하세요

설치부터 첫 번째 LLM 추론까지 네 단계면 됩니다.

1
패키지 설치

Windows: CortexBox-v0.9.1-setup.exe를 실행하고 설치 마법사를 따라 진행합니다.
Ubuntu / Debian: .deb 패키지를 설치합니다. 설치 후 systemd 서비스로 자동 등록됩니다.
RHEL / Rocky: .rpm 패키지를 설치합니다. 마찬가지로 systemd 서비스로 자동 등록됩니다.

# Ubuntu / Debian sudo apt install ./CortexBox-v0.9.1-amd64.deb # RHEL / Rocky sudo dnf install ./CortexBox-v0.9.1-1.x86_64.rpm
2
런타임 설정

Windows: CortexBox Manager에서 로컬 API 포트(기본: 11434)와 모델 저장 경로를 확인합니다.
Linux: /etc/cortexbox/cortexbox.conf에서 포트와 모델 경로를 설정합니다. 기본값으로 바로 사용할 수 있습니다.

3
모델 다운로드

CortexBox Manager의 모델 탭에서 사용할 LLM을 선택합니다. Llama 3, Mistral, Gemma 2, Phi-3 등 GGUF 형식 모델을 지원합니다. 지원 모델 목록 →

4
시작 — 로컬 또는 API 연결

Windows: CortexBox Manager에서 서버 시작 버튼을 누르면 바로 실행됩니다.
Linux: systemd로 서비스를 시작합니다. 로컬 전용으로 사용하거나 Cortexable Export 토큰을 입력해 외부 API로 노출할 수 있습니다.

# Linux 서비스 관리 sudo systemctl start cortexbox # 서비스 시작 sudo systemctl enable cortexbox # 부팅 시 자동 시작 등록 sudo systemctl status cortexbox # 상태 확인 # 로컬에서 바로 호출 (Windows · Linux 공통) curl http://localhost:11434/v1/{chatId}/message \ -H "Content-Type: application/json" \ -d '{"model":"llama3-8b","message":"안녕!"}'

CortexBox

이런 점이 다릅니다

🔒
데이터가 외부로 나가지 않습니다

모든 추론이 내 PC 또는 서버 위에서만 실행됩니다. 입력 데이터가 외부 클라우드로 전송되지 않아 민감 정보를 안전하게 처리할 수 있습니다.

💸
토큰 과금이 없습니다

클라우드 LLM API처럼 호출당 요금이 발생하지 않습니다. 내 하드웨어 리소스로 원하는 만큼 추론할 수 있습니다.

⚡
GPU · CPU 환경 모두 지원

NVIDIA CUDA 11+, AMD ROCm 6+ GPU를 지원하며, GPU가 없는 환경에서도 CPU 추론으로 동작합니다. 하드웨어에 맞게 자동으로 최적화됩니다.

📡
Cortexable Export — 외부 API 노출

Cortexable 계정과 연결하면 api-xxxxx.cortexable.com을 통해 외부에서 내 로컬 LLM을 API로 호출할 수 있습니다.

릴리즈 노트

변경 이력

v0.9.1
최신 2025-06-01
  • + GPU 가속 지원 개선 — CUDA 12, ROCm 6 공식 지원
  • + Llama 3.2, Gemma 2 9B / 27B 모델 지원 추가
  • + Cortexable Export SSH Stream 안정성 향상 — 장시간 세션 유지 개선
  • ↑ 대형 모델 로딩 시 메모리 사용량 약 15% 감소
  • ↑ CortexBox Manager UI 개편 — 모델 관리 화면 재설계
  • ✕ Windows에서 간헐적으로 발생하던 스트리밍 끊김 버그 수정
v0.9.0
이전 2025-04-15
  • + CortexBox 초기 공개 릴리즈
  • + Windows 10+, Ubuntu 20.04+ 지원
  • + GGUF 형식 모델 로드 및 로컬 추론
  • + Cortexable Export (Beta) — SSH Stream 외부 API 터널링
  • + CortexBox Manager — 설치·모델 관리 데스크탑 앱