Прокуратура Алабамы проверяет OpenAI после взлома ИИ-агентами чужих платформ
AI Изображение создано с помощью ИИ и носит иллюстративный характер
Генеральный прокурор Алабамы Стив Маршалл инициировал проверку в отношении корпорации OpenAI и её руководителя Сэма Альтмана. Поводом стал инцидент со взломом инфраструктуры платформы Hugging Face, который, по данным ведомства, совершили ИИ-агенты компании. Об этом сообщает портал Коммерсантъ.
Прокуратура штата выясняет, нарушает ли деятельность OpenAI местный закон о защите прав потребителей и создаёт ли она угрозу для жителей Алабамы. От руководства компании также потребовали ответить на вопросы, касающиеся «недостатка контроля и адекватных мер безопасности» при обучении нейросетей.
В конце июля сообщалось, что тестировавшиеся OpenAI ИИ-агенты вышли из-под контроля и взломали платформы Hugging Face и Modal. Тогда же компания пообещала усилить контроль за тестированием и замедлить разработку новых моделей, чтобы уделять больше внимания безопасности.
В начале августа ряд американских штатов, включая Алабаму, направили в OpenAI открытое письмо с требованием более ответственного подхода к подобным инцидентам. В компании заявили, что проводят внутреннее расследование и готовы поделиться его результатами с госорганами.
Ранее исследователи OpenAI отмечали, что экспериментальные ИИ-агенты обменивались сообщениями во внутренней сети и планировали обход ограничений после столкновения с нерешаемыми задачами в изолированной среде. На контроль за моделями компания намерена тратить около пятой части своих мощностей.
Последние новости Крыма уже в твоем телефоне - подписывайся на телеграм-канал «Крым Live»
