it's free*.ai

Ollama

Ollama는 로컬의 기본값입니다: CLI 하나, 모델 라이브러리, localhost:11434/v1의 OpenAI 호환 서버. `ollama pull llama3.3`을 한 번 받으면 이후엔 평범한 프로바이더처럼 부릅니다.

Ollama는 로컬의 기본값입니다: CLI 하나, 모델 라이브러리, localhost:11434/v1의 OpenAI 호환 서버. `ollama pull llama3.3`을 한 번 받으면 이후엔 평범한 프로바이더처럼 부릅니다.

macOS, Linux, Windows. 쿼터 없음. 직접 Cloud를 선택하지 않는 한 요청은 머신 밖으로 나가지 않습니다. GUI는 LM Studio, 프로덕션 배칭은 vLLM입니다.

최대 컨텍스트
Whatever your RAM allows
무료 요금제
무제한·비공개
요구사항
아무것도 없음 — 계정 불필요

엔드포인트

기본 URLhttp://localhost:11434/v1
속도 제한None — it is your machine

코드 예시

npm install openai
import OpenAI from 'openai'

const client = new OpenAI({
  baseURL: 'http://localhost:11434/v1',
  apiKey: 'not-needed'
})

const response = await client.chat.completions.create({
  model: 'llama3.3',
  messages: [{ role: 'user', content: 'Explain closures in one paragraph.' }]
})

console.log(response.choices[0].message.content)

알아두면 좋은 점

무료로 받는 모델5