API-доступ к моделям искусственного интеллекта

Принцип будущего подключения

Приложение будет отправлять серверный запрос на адрес API, передавать выданный ключ в заголовке авторизации и указывать фактический ID выбранной модели. Рабочий адрес и ключ будут опубликованы только после готовности шлюза.

Структура запроса

{
  "model": "MODEL_ID",
  "messages": [{"role": "user", "content": "Ответь коротко"}],
  "stream": false
}

cURL

curl "$API_BASE_URL/chat/completions" \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"MODEL_ID","messages":[{"role":"user","content":"Ответь коротко"}]}'

В примере используются заполнители. Адрес, ключ и рабочая схема AI Channel пока не предоставляются.

Python

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["API_KEY"],
    base_url=os.environ["API_BASE_URL"],
)
answer = client.chat.completions.create(
    model=os.environ["MODEL_ID"],
    messages=[{"role": "user", "content": "Ответь коротко"}],
)
print(answer.choices[0].message.content)
print(answer.usage)

JavaScript

import OpenAI from "openai";

const client = new OpenAI({
  apiKey: process.env.API_KEY,
  baseURL: process.env.API_BASE_URL,
});
const answer = await client.chat.completions.create({
  model: process.env.MODEL_ID,
  messages: [{ role: "user", content: "Ответь коротко" }],
});
console.log(answer.choices[0].message.content);
console.log(answer.usage);

Токены и ошибки

Стоимость обычно рассчитывается отдельно для входящих, исходящих и кешированных токенов. Точное распределение категорий и ставка будут определены условиями коммерческого запуска.

• 401 — проверьте ключ и заголовок авторизации.
• 403 — проверьте права доступа.
• 429 — снизьте частоту запросов и учитывайте Retry-After.
• 5xx — повторяйте запрос с ограниченной задержкой.

Для обращения по ошибке сохраняйте время, код, request_id, модель и HTTP-статус. Не передавайте секретный ключ или конфиденциальный текст запроса.

Безопасность

Храните ключ только на сервере в переменных окружения или секрет-хранилище. Не помещайте его в браузерный код, публичный репозиторий, логи и скриншоты.