Реклама

OpenAI представила Decisions API для оптимизации задач классификации

Популярные

Diagram illustrating the input, endpoint, and output structure of the OpenAI Decisions API

Быстрое чтение

  • OpenAI выпустила Decisions API в публичную бета-версию для классификации на основе вероятностей.
  • Цена составляет $0,10 за 1 миллион входных токенов без оплаты за выходные данные.
  • API на данный момент поддерживает только модель gpt-6-luna и требует ввода изображений в формате base64.

Новый API для классификации на основе вероятностей

Компания OpenAI официально представила свой новый API v1/decisions в рамках публичного бета-тестирования, предоставив разработчикам специализированный инструмент для задач классификации и сортировки. В отличие от стандартных чат-интерфейсов, этот API возвращает типизированные ответы, вероятности и показатели достоверности непосредственно на основе входных текстовых и графических данных. Как сообщает Generative AI News, конечная точка разработана с целью значительного повышения скорости по сравнению со стандартным API ответов (Responses API); по заявлению OpenAI, она примерно в 10 раз быстрее для специфических рабочих нагрузок по классификации.

Реклама

API поддерживает три типа запросов: predicate (возвращает вероятность выполнения условия, например, наличие царапины на изображении), choice (выбор из подготовленных вариантов с указанием вероятности) и score (присвоение баллов для упорядоченных этапов). Получая эти вероятности напрямую, разработчики могут устанавливать собственные пороги для принятия решений, что избавляет от необходимости интерпретировать произвольные текстовые ответы от моделей общего назначения.

Ценообразование и эксплуатационные ограничения

Одной из ключевых особенностей Decisions API является модель ценообразования, ориентированная исключительно на входные данные. Стоимость установлена на уровне $0,10 за 1 миллион токенов. Важно отметить, что официальная документация прямо указывает на отсутствие платы за выходные токены или кэширование данных. Хотя региональные наценки и коэффициенты для длинных входных данных по-прежнему применяются, отсутствие платы за выходные данные обеспечивает предсказуемую структуру затрат для высоконагруженных задач классификации.

В настоящее время API ограничен использованием только модели gpt-6-luna. Разработчикам также следует учитывать, что изображения должны передаваться только в виде встроенных base64-строк; использование ID файлов или прямых ссылок на URL не поддерживается. OpenAI планирует перевести сервис в стадию общедоступности в течение нескольких недель. Для сценариев, требующих создания произвольного текста или собственных JSON-форматов, компания подчеркивает, что функции Structured Outputs остаются стандартным и рекомендуемым подходом.

Оценка эффективности внедрения

Для организаций, выполняющих высокочастотные операции — такие как сортировка запросов клиентов или автоматизированный контроль качества, — Decisions API предлагает более эффективный путь, чем традиционное использование LLM. Подсчитывая количество входных токенов в месяц, разработчики могут точно прогнозировать расходы без неопределенности, связанной с длиной ответов модели. Первоочередной задачей для пользователей в ближайшее время станет калибровка порогов достоверности на собственных данных, чтобы убедиться, что вероятности, возвращаемые gpt-6-luna, соответствуют внутренним требованиям к точности.

Самые последние