Ollama
Ollama — локальный дефолт: один CLI, библиотека моделей, OpenAI-совместимый сервер на localhost:11434/v1. `ollama pull llama3.3` один раз — дальше зовёшь как любого другого провайдера.
Ollama — локальный дефолт: один CLI, библиотека моделей, OpenAI-совместимый сервер на localhost:11434/v1. `ollama pull llama3.3` один раз — дальше зовёшь как любого другого провайдера.
macOS, Linux, Windows. Без квот. Запрос не покидает машину, если вы сами не выбрали Cloud. Нужен GUI — LM Studio; нужен прод-батчинг — vLLM.
- Макс. контекст
- Whatever your RAM allows
- Бесплатный тариф
- Безлимит и приватность
- Требование
- Ничего — без аккаунта
Эндпоинт
Базовый URL
http://localhost:11434/v1Лимит скорости
None — it is your machine- Совместим с OpenAI
- Родной SDK: Ollama SDK
- текст
- изображения
- код
- зрение
- рассуждения
Примеры кода
npm install openaiimport OpenAI from 'openai'
const client = new OpenAI({
baseURL: 'http://localhost:11434/v1',
apiKey: 'not-needed'
})
const response = await client.chat.completions.create({
model: 'llama3.3',
messages: [{ role: 'user', content: 'Explain closures in one paragraph.' }]
})
console.log(response.choices[0].message.content)pip install openaifrom openai import OpenAI
client = OpenAI(
base_url="http://localhost:11434/v1",
api_key="not-needed",
)
response = client.chat.completions.create(
model="llama3.3",
messages=[{"role": "user", "content": "Explain closures in one paragraph."}],
)
print(response.choices[0].message.content)curl http://localhost:11434/v1/chat/completions \
-H "Content-Type: application/json" \
-d '{
"model": "llama3.3",
"messages": [{"role": "user", "content": "Explain closures in one paragraph."}]
}'npm install ollamaimport { Ollama } from 'ollama'
const ollama = new Ollama({ host: 'http://localhost:11434' })
const response = await ollama.chat({
model: 'llama3.3',
messages: [{ role: 'user', content: 'Explain closures in one paragraph.' }]
})
console.log(response.message.content)pip install ollamafrom ollama import Client
client = Client(host="http://localhost:11434")
response = client.chat(
model="llama3.3",
messages=[{"role": "user", "content": "Explain closures in one paragraph."}],
)
print(response["message"]["content"])Стоит знать
- Перед первым запросом один раз выполните `ollama pull llama3.3`.
Модели, которые вы получаете бесплатно5
- Llama 3.3 70B
llama-3.3-70b - Qwen 3
qwen3 - GPT-OSS 120B
gpt-oss-120b - DeepSeek R1
deepseek-ai/DeepSeek-R1 - DeepSeek V4
deepseek-v4-flash