it's free*.ai

Ollama

Ollama ist der lokale Standard: ein CLI, eine Modell-Bibliothek, ein OpenAI-kompatibler Server auf localhost:11434/v1. `ollama pull llama3.3` einmal ziehen, danach wie jeden anderen Anbieter aufrufen.

Ollama ist der lokale Standard: ein CLI, eine Modell-Bibliothek, ein OpenAI-kompatibler Server auf localhost:11434/v1. `ollama pull llama3.3` einmal ziehen, danach wie jeden anderen Anbieter aufrufen.

macOS, Linux, Windows. Keine Quota. Die Anfrage verlässt die Maschine nicht — außer man entscheidet sich für Cloud. Für GUI: LM Studio. Für Produktions-Batching: vLLM.

Max. Kontext
Whatever your RAM allows
Gratis-Tarif
Unbegrenzt und privat
Anforderung
Nichts — kein Konto

Endpunkt

Basis-URLhttp://localhost:11434/v1
RatengrenzeNone — it is your machine

Codebeispiele

npm install openai
import OpenAI from 'openai'

const client = new OpenAI({
  baseURL: 'http://localhost:11434/v1',
  apiKey: 'not-needed'
})

const response = await client.chat.completions.create({
  model: 'llama3.3',
  messages: [{ role: 'user', content: 'Explain closures in one paragraph.' }]
})

console.log(response.choices[0].message.content)

Wissenswert

Modelle, die Sie gratis bekommen5