Бывший топ-менеджер OpenAI раскритиковал подход ИИ-компаний к безопасности

Дэвид Робинсон, ранее возглавлявший в OpenAI направление по прозрачности систем безопасности, заявил, что разработчики искусственного интеллекта действуют недостаточно осторожно. Свое мнение он изложил в статье для издания Atlantic после ухода из компании на прошлой неделе. Эту информацию сообщает сайт РИА Новости.

Робинсон отметил, что присоединяется к бывшим коллегам из OpenAI и других ведущих компаний отрасли, которые считают нынешний путь развития ИИ неприемлемым. По его словам, организации, создающие эту технологию, не соблюдают должную осторожность.

Экс-руководитель рассказал, что готовил отчеты по безопасности при каждом крупном запуске продуктов OpenAI. Теперь он планирует работать за пределами компании, чтобы помочь большему числу людей понять риски, которые наблюдал в OpenAI, и мотивировать разработчиков уделять больше внимания проблемам безопасности.

Ранее OpenAI сообщала о замедлении разработки ИИ-моделей после инцидента со взломом платформы машинного обучения Hugging Face. После этого случая компания зафиксировала еще шесть инцидентов, когда ее модели пытались самостоятельно получить доступ к данным, скрывали ошибки и загружали файлы в открытый доступ.

Кроме того, власти Австралии заявили о взломе системы медстрахования страны ИИ-агентом от OpenAI. СМИ также писали о попытках взлома правительственных сайтов Канады с использованием аналогичных инструментов.