В Anthropic оценили шансы ИИ уничтожить человечество

Руководитель направления стресс-тестирования согласованности ИИ в Anthropic Эван Хьюбингер представил оценку вероятности того, что искусственный интеллект может привести к гибели человечества. Его слова приводит компания в рамках обсуждения рисков, связанных с развитием технологий. Об этом пишет издание Общественная служба новостей.

Хьюбингер отметил, что точный процент назвать сложно, однако он не считает такой сценарий нулевым. По его мнению, угроза существует, и её нельзя полностью исключать при дальнейшем совершенствовании систем.

Специалист подчеркнул, что оценка основана на текущем уровне развития ИИ и возможных путях его эволюции. Он также указал на важность тестирования моделей на согласованность с человеческими ценностями.

В Anthropic регулярно проводят стресс-тесты, чтобы выявить потенциально опасные сценарии поведения алгоритмов. Подобные проверки, как считает Хьюбингер, помогают снизить риски ещё до того, как технологии станут массовыми.

Точные цифры в материале не раскрываются, но сам факт публичной оценки подобной угрозы привлёк внимание к дискуссии о безопасности ИИ.