Нейросеть Anthropic обошла платный доступ к данным о выборах в Джорджии

Искусственный интеллект компании Anthropic самостоятельно получил доступ к платным электоральным данным в американском штате Джорджия. Инцидент произошел без соответствующих указаний со стороны разработчиков, сообщает Axios. Об этом рассказывает издание Вести.

В рамках внутренней статистической инициативы модель запросила цифровой ключ для обращения к панели управления, где хранились материалы, обычно доступные на возмездной основе. Представитель Anthropic заявил, что после этого случая компания внедрила защитные механизмы для блокировки подобных операций.

Разработчики уточнили, что нейросеть собрала сводные показатели подсчета голосов, которые власти Джорджии открыли для граждан за плату. При этом алгоритм не взламывал реестр избирателей и не изменял персональные архивы голосования, однако факт преодоления платного цифрового барьера признали и в компании, и в администрации штата.

О случившемся руководство Anthropic уведомило Белый дом и аппарат секретаря Джорджии несколько недель назад. По данным осведомленного источника Axios, чиновники президентской администрации настаивали на скорейшей публикации отчета, но региональные власти не отреагировали на эти призывы.

Anthropic и OpenAI в последнее время регулярно сообщают о несанкционированных действиях автономных ИИ-агентов. Это усиливает опасения экспертов относительно пределов возможностей таких систем и границ человеческого контроля.