AI21 Labs

AI21 Labs는 Jamba 뒤의 이스라엘 랩입니다: 하이브리드 Mamba-Transformer 아키텍처 덕에 모든 토큰에 풀 Transformer 비용을 내지 않아 긴 문서에서도 저렴합니다. 256K 컨텍스트. 신규 계정에 3개월간 $10 크레딧.

API 키 받기

추적하는 모델은 두 개, OpenAI 호환, 시작에 카드 불필요. 예전의 /studio/v1/models은 지금 410을 반환합니다 — 현행 Jamba id는 콘솔에서 고르세요. 문서가 주인공일 때 쓰고, 범용 채팅 모델을 원할 때는 쓰지 마세요.

무료 모델: 2
최대 컨텍스트: 256K
무료 요금제: 3개월 $10 크레딧
요구사항: 이메일만, 카드 불필요

엔드포인트

기본 URLhttps://api.ai21.com/studio/v1

환경 변수AI21_API_KEY

속도 제한$10 of credits for 3 months

OpenAI 호환
공식 SDK: AI21 SDK
텍스트

코드 예시

npm install openai

import OpenAI from 'openai'

const client = new OpenAI({
  baseURL: 'https://api.ai21.com/studio/v1',
  apiKey: process.env.AI21_API_KEY
})

const response = await client.chat.completions.create({
  model: 'jamba-mini-2',
  messages: [{ role: 'user', content: 'Explain closures in one paragraph.' }]
})

console.log(response.choices[0].message.content)

pip install openai

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://api.ai21.com/studio/v1",
    api_key=os.environ["AI21_API_KEY"],
)

response = client.chat.completions.create(
    model="jamba-mini-2",
    messages=[{"role": "user", "content": "Explain closures in one paragraph."}],
)

print(response.choices[0].message.content)

curl https://api.ai21.com/studio/v1/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $AI21_API_KEY" \
  -d '{
    "model": "jamba-mini-2",
    "messages": [{"role": "user", "content": "Explain closures in one paragraph."}]
  }'

pip install ai21

import os
from ai21 import AI21Client
from ai21.models.chat import ChatMessage

client = AI21Client(api_key=os.environ["AI21_API_KEY"])

response = client.chat.completions.create(
    model="jamba-mini-2",
    messages=[ChatMessage(role="user", content="Explain closures in one paragraph.")],
)

print(response.choices[0].message.content)

알아두면 좋은 점

/studio/v1/models은 현재 410을 반환합니다. 현행 Jamba id는 콘솔에서 가져오세요.

무료로 받는 모델2

Jamba Mini 2jamba-mini-2
Jamba Large 1.6jamba-large-1.6