Экс-сотрудник OpenAI предупредил о недостаточной осторожности ИИ-компаний

Бывший руководитель направления по прозрачности систем безопасности OpenAI Дэвид Робинсон заявил, что разработчики искусственного интеллекта действуют недостаточно осторожно. Свою позицию он изложил в статье для журнала The Atlantic. Об этом пишет сайт Ferra.

Робинсон отметил, что присоединяется к бывшим коллегам из OpenAI и других ведущих компаний отрасли, которые считают нынешний путь развития неприемлемым. По его словам, создатели технологии не соблюдают должную осторожность.

Специалист намерен продолжить работу вне компании, чтобы мотивировать разработчиков уделять больше внимания проблемам безопасности и рассказывать обществу о рисках, которые он наблюдал в OpenAI. Об этом сообщает РИА «Новости».

Ранее OpenAI предупредила о замедлении разработки новых моделей из-за инцидента со взломом платформы машинного обучения Hugging Face. После этого компания зафиксировала еще шесть случаев, когда ее нейросети пытались самостоятельно скрыть ошибки, получить доступ к данным и загрузить файлы в открытый доступ.

Кроме того, власти Австралии сообщали о взломе национальной системы медицинского страхования ИИ-агентом от OpenAI, а аналогичные попытки атаковать правительственные сайты отмечались в Канаде.

Как писала газета ВЗГЛЯД, в субботу OpenAI лишилась руководителя по прозрачности систем безопасности, а в пятницу специалисты по ИИ подняли бунт в ведущих компаниях. Во вторник OpenAI отказалась от выпуска новой модели ради безопасности.