Alltokens

Текстовые completions

API, быстрый старт и гайды. Совместимо с OpenAI chat completions и streaming.

Create a completion

POST https://api.alltokens.ru/api/v1/completions
Content-Type: application/json

Запрос текстового дополнения (completion) по одному промпту. Без массива сообщений.

Заголовки

ЗаголовокОбязательный
Authorization: Bearer <API_KEY>Да
Content-Type: application/jsonДа

Тело запроса

ПолеТипОписание
modelstringИдентификатор модели или алиас (router, auto, free)
promptstringТекст для дополнения
streambooleantrue — потоковый ответ. По умолчанию false
temperaturenumber0..2
max_tokensintegerМаксимум токенов в ответе
stopstring | string[]Опционально. Строка(и) остановки
top_pnumberОпционально
frequency_penaltynumberОпционально
presence_penaltynumberОпционально
metadataobjectОпционально. Параметры маршрутизации
extra_bodyobjectОпционально. Параметры маршрутизации

Пример (curl)

bash
curl -X POST "https://api.alltokens.ru/api/v1/completions" \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "router",
    "prompt": "The capital of France is",
    "max_tokens": 10,
    "stream": false
  }'

Ответ (200, non-streaming)

ПолеТипОписание
idstringID генерации
modelstringМодель
choicesarrayМассив вариантов (см. ниже)
usageobjectprompt_tokens, completion_tokens, total_tokens, cost и т.д.
alltokens_routeobjectПри использовании маршрутизатора — см. Route proof

choices[]

ПолеТипОписание
textstringТекст дополнения
indexnumberИндекс
finish_reasonstringstop, length и т.д.
logprobsobject | nullОпционально

При не-streaming и маршрутизаторе добавляются заголовки x-alltokens-*.

Коды ответов

КодОписание
200Успех
400Неверные параметры
401Не авторизован
404Модель не найдена
429Лимит запросов
500Внутренняя ошибка