Исследователь Anthropic уходит из ИИ-индустрии из-за опасений катастрофы к 2027 году

27-летний британский математик Джейкоб Коксон, работавший в компании Anthropic, решил покинуть сферу искусственного интеллекта. Как сообщает The Wall Street Journal, он считает, что гонка технологических корпораций приближает мир к «точке невозврата», и не исключает катастрофы уже в конце 2027 года. Эту информацию сообщает сайт Prokazan.

Коксон не желает участвовать в создании саморазвивающихся ИИ-моделей, полагая, что такие системы могут «выйти из-под контроля и уничтожить человечество». По его словам, коллеги всё чаще описывают текущее развитие технологий терминами «критическая точка» и «эндшпиль». «Мы движемся к наиболее жестким из этих сценариев, при которых уже к концу следующего года ситуация может выйти из-под контроля», — цитирует его издание.

В начале года специалист перешёл из OpenAI в Anthropic, привлечённый репутацией компании в области безопасности ИИ. Однако теперь он пришёл к выводу, что ни одна частная компания не способна этично разрабатывать ИИ без внешнего регулирования или скоординированного замедления отрасли, хотя по-прежнему уважает подход Anthropic к этой проблеме.

По данным издания, в дальнейшем Коксон планирует изучать поэзию.