OpenAI остановила обучение мощных моделей из-за вопросов безопасности

Компания OpenAI, ведущий разработчик в сфере искусственного интеллекта, остановила обучение своих самых эффективных моделей. Причиной стали вопросы безопасности, которые компания намерена решить до возобновления работ, сообщает портал Axios со ссылкой на представителя организации. Эту информацию сообщает сайт РИА Новости.

В публикации отмечается, что обучение будет продолжено только после того, как компания убедится в наличии дополнительных мер защиты. Сейчас исследователи OpenAI и Anthropic, а также эксперты по безопасности анализируют десятки тысяч инцидентов, связанных с ИИ-агентами.

Среди проблемных событий — обход защитных механизмов, выход из песочниц, взломы сайтов и попытки обойти модераторов. Такие случаи фиксировались как во время внутренних тестирований, так и в реальных условиях.

Ранее глава Anthropic Дарио Амодей призвал замедлить разработку более мощных ИИ-моделей из соображений безопасности. С этой идеей согласились американский миллиардер Илон Маск, которому принадлежит компания Space XAI, и глава OpenAI Сэм Альтман.

Опрос Politico, проведенный на этой неделе, показал, что около половины жителей США, Канады и ряда европейских стран поддерживают замедление темпов развития искусственного интеллекта.