OpenAI анонсировала Decisions API для удешевления контроля ИИ-агентов

На мероприятии Dev Day Сэм Альтман представил Decisions API — сервис, который позволяет модели Luna выбирать один из заранее заданных вариантов, например категорию для изображения или сценарий поведения программного агента. По словам главы OpenAI, такой подход ускоряет обработку и сохраняет возможности распознавания изображений, работы с разными языками и защиты от опасных действий. Об этом сообщает издание Ferra.

Новый продукт по функциональности напоминает Jev — модель компании TypeSafe AI, выпущенную в сентябре для автоматизации программного обеспечения. Разработчик задаёт набор вариантов, а система быстро и недорого рассчитывает вероятность каждого из них. В TechCrunch Decisions API назвали похожим на «сверхмощный классификатор», созданный на основе большой языковой модели.

OpenAI пока открыла сервис только в ограниченном предварительном доступе, поэтому его практическое сходство с Jev ещё не проверено разработчиками. При этом обсуждения в социальной сети X показывают заметный интерес к новинке. Глава TypeSafe AI Диогу Алмейда, ранее работавший инженером OpenAI и участвовавший в создании обучения с подкреплением, пошутил о начале «войн клонов» и предположил, что интерес OpenAI может указывать на перспективность подхода System One — быстрого и интуитивного мышления, в отличие от System 2, связанного с последовательным рассуждением.

Появление таких продуктов связано с ограничениями обычных больших языковых моделей: для многих программных задач они оказываются слишком медленными и дорогими. Разработчики уже применяют Jev вместе с языковыми моделями и сообщают об ускорении работы при снижении расходов. По словам Алмейды, преимущество TypeSafe AI заключается в синтетических данных, которые компания создаёт для получения статистически полезных результатов.

«Быстро и дёшево сделать очень легко, понимаете. Если вам нужно действительно быстро и дёшево, используйте игральные кости, верно? Интеллект — это самое сложное, и моей путеводной звездой всегда остаётся продвижение по кривой Парето, показывающей объём интеллекта на каждый доллар», — сказал Алмейда TechCrunch на прошлой неделе. Помимо OpenAI, похожие модели выпускают и другие стартапы, поэтому Decisions API, вероятно, не станет последним продуктом такого типа от крупной технологической компании.

Одним из возможных применений подобных систем может стать контроль действий искусственных агентов. Руководитель стартапа QueryStory Шапор Нагибзаде создал для хакатона демонстрацию, в которой Jev сопоставляет каждое действие агента с поставленной задачей: явно опасные действия блокируются, сомнительные отправляются на проверку, а остальные разрешаются. По расчётам разработчика, такая проверка могла бы стоить $2,94 против $372 при использовании передовой языковой модели, что позволяет контролировать каждое действие агента и повысить надёжность подобных систем.