it's free*.ai

Ollama

Ollama 是本地默认选项:一个 CLI、一个模型库、localhost:11434/v1 上的 OpenAI 兼容服务。`ollama pull llama3.3` 拉一次,之后当普通供应商调用。

Ollama 是本地默认选项:一个 CLI、一个模型库、localhost:11434/v1 上的 OpenAI 兼容服务。`ollama pull llama3.3` 拉一次,之后当普通供应商调用。

macOS、Linux、Windows。没有配额。除非你主动选择 Cloud,请求不会离开你的机器。想要图形界面选 LM Studio;想要生产级批处理选 vLLM。

最大上下文
Whatever your RAM allows
免费额度
无限且私密
注册要求
什么都不用 —— 无账号

端点

接口地址http://localhost:11434/v1
速率限制None — it is your machine

代码示例

npm install openai
import OpenAI from 'openai'

const client = new OpenAI({
  baseURL: 'http://localhost:11434/v1',
  apiKey: 'not-needed'
})

const response = await client.chat.completions.create({
  model: 'llama3.3',
  messages: [{ role: 'user', content: 'Explain closures in one paragraph.' }]
})

console.log(response.choices[0].message.content)

值得注意

你能免费使用的模型5