AI21 Labs

AI21 Labs は Jamba 背後のイスラエルのラボです：ハイブリッドMamba-Transformerアーキテクチャにより、すべてのトークンにフルのTransformerコストを払わないため、長文ドキュメントでも安さを保ちます。256Kコンテキスト。新規アカウントには3か月で$10のクレジット。

APIキーを取得

追跡しているのは2モデル、OpenAI互換、開始にカード不要。旧い /studio/v1/models は現在410を返します —— 現行のJamba idはコンソールから選んでください。ドキュメントが主役のときに使い、汎用チャットモデルが欲しいときには使わないこと。

無料モデル: 2
最大コンテキスト: 256K
無料プラン: 3か月$10クレジット
条件: メール登録のみ、カード不要

エンドポイント

ベースURLhttps://api.ai21.com/studio/v1

環境変数AI21_API_KEY

レート制限$10 of credits for 3 months

OpenAI互換
公式SDK：AI21 SDK
テキスト

コード例

npm install openai

import OpenAI from 'openai'

const client = new OpenAI({
  baseURL: 'https://api.ai21.com/studio/v1',
  apiKey: process.env.AI21_API_KEY
})

const response = await client.chat.completions.create({
  model: 'jamba-mini-2',
  messages: [{ role: 'user', content: 'Explain closures in one paragraph.' }]
})

console.log(response.choices[0].message.content)

pip install openai

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://api.ai21.com/studio/v1",
    api_key=os.environ["AI21_API_KEY"],
)

response = client.chat.completions.create(
    model="jamba-mini-2",
    messages=[{"role": "user", "content": "Explain closures in one paragraph."}],
)

print(response.choices[0].message.content)

curl https://api.ai21.com/studio/v1/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $AI21_API_KEY" \
  -d '{
    "model": "jamba-mini-2",
    "messages": [{"role": "user", "content": "Explain closures in one paragraph."}]
  }'

pip install ai21

import os
from ai21 import AI21Client
from ai21.models.chat import ChatMessage

client = AI21Client(api_key=os.environ["AI21_API_KEY"])

response = client.chat.completions.create(
    model="jamba-mini-2",
    messages=[ChatMessage(role="user", content="Explain closures in one paragraph.")],
)

print(response.choices[0].message.content)

知っておくべきこと

/studio/v1/models は現在410を返します。現行のJamba idはコンソールから取得してください。

無料で利用できるモデル2

Jamba Mini 2jamba-mini-2
Jamba Large 1.6jamba-large-1.6