it's free*.ai

Ollama

Ollama è lo standard locale: un CLI, una libreria di modelli, un server compatibile OpenAI su localhost:11434/v1. `ollama pull llama3.3` una volta, poi lo chiami come qualsiasi altro provider.

Ollama è lo standard locale: un CLI, una libreria di modelli, un server compatibile OpenAI su localhost:11434/v1. `ollama pull llama3.3` una volta, poi lo chiami come qualsiasi altro provider.

macOS, Linux, Windows. Nessuna quota. La richiesta non lascia mai la macchina a meno che tu non scelga Cloud. Per una GUI, LM Studio; per batching di produzione, vLLM.

Contesto massimo
Whatever your RAM allows
Piano gratuito
Illimitato e privato
Requisito
Niente — nessun account

Endpoint

URL basehttp://localhost:11434/v1
Limite di velocitàNone — it is your machine

Esempi di codice

npm install openai
import OpenAI from 'openai'

const client = new OpenAI({
  baseURL: 'http://localhost:11434/v1',
  apiKey: 'not-needed'
})

const response = await client.chat.completions.create({
  model: 'llama3.3',
  messages: [{ role: 'user', content: 'Explain closures in one paragraph.' }]
})

console.log(response.choices[0].message.content)

Vale la pena sapere

Modelli che ottieni gratis5