vLLM
vLLM est le moteur de service que la production utilise vraiment : PagedAttention, batching continu, un serveur compatible OpenAI sur localhost:8000/v1. Vous apportez le GPU.
vLLM est le moteur de service que la production utilise vraiment : PagedAttention, batching continu, un serveur compatible OpenAI sur localhost:8000/v1. Vous apportez le GPU.
`vllm serve Qwen/Qwen3-8B` et c’est réglé. CUDA ou ROCm ; sur un Mac, tournez-vous vers MLX. Pas de quota, pas de clé, rien ne quitte la machine.
- Contexte max
- Set with --max-model-len
- Offre gratuite
- Illimité et privé
- Exigence
- Rien — pas de compte
Point de terminaison
URL de base
http://localhost:8000/v1Limite de débit
None — it is your machine- Compatible OpenAI
- texte
- vision
Exemples de code
npm install openaiimport OpenAI from 'openai'
const client = new OpenAI({
baseURL: 'http://localhost:8000/v1',
apiKey: 'not-needed'
})
const response = await client.chat.completions.create({
model: 'Qwen/Qwen3-8B',
messages: [{ role: 'user', content: 'Explain closures in one paragraph.' }]
})
console.log(response.choices[0].message.content)pip install openaifrom openai import OpenAI
client = OpenAI(
base_url="http://localhost:8000/v1",
api_key="not-needed",
)
response = client.chat.completions.create(
model="Qwen/Qwen3-8B",
messages=[{"role": "user", "content": "Explain closures in one paragraph."}],
)
print(response.choices[0].message.content)curl http://localhost:8000/v1/chat/completions \
-H "Content-Type: application/json" \
-d '{
"model": "Qwen/Qwen3-8B",
"messages": [{"role": "user", "content": "Explain closures in one paragraph."}]
}'Bon à savoir
- Démarrez d’abord le serveur : `vllm serve Qwen/Qwen3-8B`.
- Exige un GPU CUDA ou ROCm ; sur Mac, tournez-vous vers MLX.
Modèles que vous obtenez gratuitement5
- Qwen 3
qwen3 - Llama 3.3 70B
llama-3.3-70b - GPT-OSS 120B
gpt-oss-120b - DeepSeek R1
deepseek-ai/DeepSeek-R1 - DeepSeek V4
deepseek-v4-flash
