Alltokens

Параметры

API, быстрый старт и гайды. Совместимо с OpenAI chat completions и streaming.

Parameters

Основные параметры запросов к Chat Completions и Completions API.

Общие

ПараметрТипОписание
modelstringИдентификатор модели или алиас (router, auto, free)
streambooleanПотоковый ответ. По умолчанию false
temperaturenumber0..2. Выше — более случайные ответы. 0 — детерминированно
max_tokensintegerМаксимальное число токенов в ответе
top_pnumberNucleus sampling (0..1)
frequency_penaltynumberШтраф за частые токены (-2..2)
presence_penaltynumberШтраф за уже упомянутые темы (-2..2)
stopstring | arrayСтрока или массив строк — остановка генерации при появлении
seedintegerЗерно для воспроизводимости (если модель поддерживает)

Только Chat Completions

ПараметрТипОписание
messagesarrayМассив объектов { "role": "user" | "assistant" | "system", "content": "..." }
metadataobjectЦели и ограничения маршрутизации — см. Routing
extra_bodyobjectТо же, альтернативное место для параметров маршрутизации

Только Completions

ПараметрТипОписание
promptstringТекст промпта для дополнения

Ограничения по модели

Конкретные модели могут поддерживать не все параметры или иметь свои лимиты (например, max_tokens). Список моделей и их свойства: List models. Детали по параметрам конкретной модели: Model endpoints.