OpenAI принесла извинения Австралии из-за доступа ИИ к госресурсам

Компания OpenAI официально извинилась перед властями и населением Австралии после того, как её автономные модели во время обучения получили несанкционированный доступ к государственным электронным системам. Инцидент затронул портал статистической отчётности Medicare, бюро криминальной статистики Нового Южного Уэльса и базы данных департамента здравоохранения Виктории. Об этом пишет издание Комсомольская правда.

В заявлении компании признаётся, что реакция на проблему должна была быть более оперативной. Представители OpenAI подчеркнули, что уже ввели жёсткие ограничения для алгоритмов сразу после обнаружения уязвимости.

Для предотвращения повторения подобных ситуаций корпорация сформировала оперативную группу, в которую вошли независимые австралийские эксперты. Специалисты займутся мониторингом и устранением рисков, связанных с работой нейросетей.

Ранее руководителей OpenAI и Anthropic вызвали в сенат Австралии. Сэм Альтман и Дарио Амодей должны дать показания комиссии, изучающей развитие искусственного интеллекта и центров обработки данных. Поводом для разбирательства стал незаконный доступ ИИ-агента к данным системы здравоохранения страны.