SimpleRouter

Подключение к API

Создайте ключ модели и отправьте первый запрос из приложения.

Начните с выбора модели

Выберите опубликованную модель и проверьте её протокол. Пример Chat Completions работает только с соответствующим профилем.

Выберите модель

Проверьте возможности, цену и публичный ID модели.

Создайте ключ с лимитом

Привяжите к одной модели и сохраните секрет.

Отправьте первый запрос

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://api.simplerouters.org/v1",
    api_key=os.environ["SIMPLEROUTER_API_KEY"],
)

response = client.chat.completions.create(
    model="YOUR_PUBLISHED_MODEL_ID",
    messages=[{"role": "user", "content": "Hello!"}],
    max_tokens=256,
)
print(response.choices[0].message.content)
Выполняйте примеры на своём сервере. Храните ключ в переменной окружения и замените ID модели.

Несколько полезных правил.

  • Храните ключи на сервере вне истории Git.
  • Один ключ закреплён за одной моделью.
  • Задавайте максимальную длину ответа.
  • Не повторяйте неоднозначный платный запрос автоматически.
  • При обрыве потока проверьте историю запросов.
Открыть песочницу

Базовый URL API

https://api.simplerouters.org/v1

Это настроенный адрес gateway. Для localhost нужен локально запущенный сервер.

API-ключи моделей и лимиты расходов

Как создать API-ключ SimpleRouter для одной модели, задать лимит, отслеживать расходы и заменить секрет без потери истории.

Как считаются токены, стоимость и резервы

Расчёт стоимости API в USD: входные и выходные токены, цена за 1M токенов, резерв до запроса и итоговое списание в SimpleRouter.

Потоковые ответы API и безопасные повторы

Как подключить потоковый ответ модели, обработать завершение или обрыв соединения и проверить результат платного запроса в SimpleRouter.