My AI Console
일반

텍스트 모델 3종 지원을 시작합니다 — GPT-OSS · Qwen · Gemma

2026년 10월 01일 | 조회 16

FlameAI 베타는 GPT-OSS, Qwen, Gemma 세 가지 텍스트 LLM 계열로 시작합니다.

모든 모델은 양자화된 GGUF 형식으로 제공됩니다. 양자화는 모델 가중치를 더 적은 비트로 압축하는 방식입니다. 덕분에 일반 PC나 소형 서버에서도 큰 모델을 실용적인 크기와 속도로 돌릴 수 있습니다.

지원 모델

계열모델양자화파일 크기최대 컨텍스트
GPT-OSS (OpenAI)gpt-oss 20BQ8_K_XL13.2 GB128K
Qwen 3.0 (Alibaba)0.6BQ8_K_XL0.8 GB40K
8BQ8_08.7 GB40K
Qwen 3.50.8BQ8_K_XL1.2 GB256K
2BQ82.8 GB256K
4BQ8_04.5 GB256K
9BQ8_09.5 GB256K
27BQ5_K_M19.6 GB256K
Qwen 3.827BQ2_K_XL9.8 GB256K
27BQ5_K_XL20.9 GB256K
Gemma 4 (Google)E4BQ8_K_XL8.7 GB128K
12BQ8_012.7 GB256K
12BQ8_K_XL13.6 GB256K

어떤 모델을 고르면 되나요

  • 메모리가 적은 PC라면 Qwen 3.0 0.6B나 Qwen 3.5 0.8B·2B처럼 작은 모델부터 시작해 보세요.
  • 같은 모델이라도 양자화 숫자가 클수록(Q8 > Q5 > Q2) 원본에 가까운 품질을 내고, 작을수록 메모리를 덜 씁니다.
  • 모델별 상세 설명은 지원 모델 메뉴에서 확인할 수 있습니다.

앞으로

지원 모델은 계속 늘려 나갈 예정입니다. 더 다양한 크기와 양자화 옵션은 물론, 이미지 생성 같은 텍스트 외 모델도 순차적으로 추가해 공지로 안내드리겠습니다.