it's free*.ai

Ollama

Ollama はローカルのデフォルトです:1つのCLI、モデルライブラリ、localhost:11434/v1 のOpenAI互換サーバー。`ollama pull llama3.3` を一度引けば、あとは普通のプロバイダのように呼べます。

Ollama はローカルのデフォルトです:1つのCLI、モデルライブラリ、localhost:11434/v1 のOpenAI互換サーバー。`ollama pull llama3.3` を一度引けば、あとは普通のプロバイダのように呼べます。

macOS、Linux、Windows。クォータなし。あなたがCloudを選択しない限り、リクエストはマシンの外に出ません。GUIが欲しければLM Studio、本番のバッチ処理ならvLLMです。

最大コンテキスト
Whatever your RAM allows
無料プラン
無制限・プライベート
条件
不要 — アカウントなし

エンドポイント

ベースURLhttp://localhost:11434/v1
レート制限None — it is your machine

コード例

npm install openai
import OpenAI from 'openai'

const client = new OpenAI({
  baseURL: 'http://localhost:11434/v1',
  apiKey: 'not-needed'
})

const response = await client.chat.completions.create({
  model: 'llama3.3',
  messages: [{ role: 'user', content: 'Explain closures in one paragraph.' }]
})

console.log(response.choices[0].message.content)

知っておくべきこと

無料で利用できるモデル5