Create a completion
POST https://api.alltokens.ru/api/v1/completions
Content-Type: application/json
Запрос текстового дополнения (completion) по одному промпту. Без массива сообщений.
Заголовки
| Заголовок | Обязательный |
|---|
| Authorization: Bearer <API_KEY> | Да |
| Content-Type: application/json | Да |
Тело запроса
| Поле | Тип | Описание |
|---|
| model | string | Идентификатор модели или алиас (router, auto, free) |
| prompt | string | Текст для дополнения |
| stream | boolean | true — потоковый ответ. По умолчанию false |
| temperature | number | 0..2 |
| max_tokens | integer | Максимум токенов в ответе |
| stop | string | string[] | Опционально. Строка(и) остановки |
| top_p | number | Опционально |
| frequency_penalty | number | Опционально |
| presence_penalty | number | Опционально |
| metadata | object | Опционально. Параметры маршрутизации |
| extra_body | object | Опционально. Параметры маршрутизации |
Пример (curl)
curl -X POST "https://api.alltokens.ru/api/v1/completions" \
-H "Authorization: Bearer YOUR_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "router",
"prompt": "The capital of France is",
"max_tokens": 10,
"stream": false
}'
Ответ (200, non-streaming)
| Поле | Тип | Описание |
|---|
| id | string | ID генерации |
| model | string | Модель |
| choices | array | Массив вариантов (см. ниже) |
| usage | object | prompt_tokens, completion_tokens, total_tokens, cost и т.д. |
| alltokens_route | object | При использовании маршрутизатора — см. Route proof |
choices[]
| Поле | Тип | Описание |
|---|
| text | string | Текст дополнения |
| index | number | Индекс |
| finish_reason | string | stop, length и т.д. |
| logprobs | object | null | Опционально |
При не-streaming и маршрутизаторе добавляются заголовки x-alltokens-*.
Коды ответов
| Код | Описание |
|---|
| 200 | Успех |
| 400 | Неверные параметры |
| 401 | Не авторизован |
| 404 | Модель не найдена |
| 429 | Лимит запросов |
| 500 | Внутренняя ошибка |