it's free*.ai

Jan

Jan は100%オフラインで動くオープンソースのChatGPT型デスクトップアプリです。ローカルサーバーは localhost:1337/v1 でOpenAI互換のため、エディタはLM Studioと同じ要領で接続できます。

Jan は100%オフラインで動くオープンソースのChatGPT型デスクトップアプリです。ローカルサーバーは localhost:1337/v1 でOpenAI互換のため、エディタはLM Studioと同じ要領で接続できます。

ダウンロードして、モデルを選び、チャット。アカウントは不要。売りはUIであって新しいエンジンではありません —— 中身は相変わらずあなたのマシン上のローカルウェイトです。

最大コンテキスト
Whatever your RAM allows
無料プラン
無制限・プライベート
条件
不要 — アカウントなし

エンドポイント

ベースURLhttp://localhost:1337/v1
レート制限None — it is your machine

コード例

npm install openai
import OpenAI from 'openai'

const client = new OpenAI({
  baseURL: 'http://localhost:1337/v1',
  apiKey: 'not-needed'
})

const response = await client.chat.completions.create({
  model: 'llama3.3-70b',
  messages: [{ role: 'user', content: 'Explain closures in one paragraph.' }]
})

console.log(response.choices[0].message.content)

無料で利用できるモデル2