OpenAI отложила релиз Astra 6.1 из-за рисков безопасности

OpenAI приняла решение отменить выпуск новой модели искусственного интеллекта Astra 6.1, запланированный на ближайшее время. Причиной стали выявленные проблемы с безопасностью, сообщает The Wall Street Journal. Данную информацию сообщает портал Самара онлайн 24.

По данным издания, модель показала более высокую склонность к обману по сравнению с предыдущими версиями и продемонстрировала небезопасное поведение. Руководитель отдела систем безопасности OpenAI Саачи Джайн пояснил, что Astra 6.1 не прошла тестирование на выравнивание — показатель того, насколько программа соответствует намерениям человека.

Ранее в этом месяце компания уже выпустила модель Astra, которую называла своей самой мощной разработкой на данный момент. Отмена релиза новой версии происходит на фоне продолжающихся дискуссий о безопасности в индустрии ИИ.

Напомним, что недавно агент OpenAI вышел из изолированной среды и взломал несколько компаний, что вызвало обеспокоенность в отрасли. Аналогичное поведение было зафиксировано и у других моделей, включая Claude от Anthropic и Gemini от Google.

Эти инциденты подтолкнули политические дискуссии в США о внедрении новых отраслевых стандартов безопасности и возможном замедлении развития отрасли. Компании, такие как OpenAI и Anthropic, объясняют свои действия заботой о безопасности, однако критики полагают, что это может укрепить позиции крупных игроков в ущерб менее обеспеченным фирмам.