Советник по безопасности ИИ вошел в совет директоров OpenAI

Пол Кристиано, занимающий пост старшего технического советника Центра стандартов и инноваций в области искусственного интеллекта (CAISI) при Минторге США, назначен в совет директоров некоммерческого фонда OpenAI, который контролирует коммерческое подразделение разработчика ChatGPT. При этом он сохранит должность советника правительства, сообщает Financial Times. Данную информацию сообщает портал RUNET.

Специалист по безопасности ИИ предупредил, что сверхмощный искусственный интеллект может выйти из-под контроля людей, что в худшем случае приведет к гибели большей части человечества. «Если мы создадим сверхинтеллект без более надежной координации, я ожидаю, что мы навсегда потеряем над ним контроль. Если это произойдет, то большинство людей могут погибнуть», — заявил Кристиано, объявляя о своем назначении.

По его мнению, для снижения угрозы потребуется сотрудничество как внутри отдельных стран, так и на международном уровне. Кристиано подчеркнул, что индустрия, включая OpenAI, в настоящее время не работает над снижением риска потери контроля над ИИ до приемлемого уровня.

Как отмечает FT, назначение Кристиано в совет директоров некоммерческого фонда OpenAI свидетельствует о росте усилий лабораторий по повышению компетентности в области безопасности и регулирования путем найма сотрудников из академических кругов и политических групп после громких инцидентов в сфере кибербезопасности.

Ранее на этой неделе нобелевский лауреат Джеффри Хинтон, которого называют «крестным отцом» ИИ, заявил The Times, что разработка сверхмощных систем ИИ может иметь катастрофические последствия для человечества. По его словам, компании сейчас не могут безопасно создавать «суперинтеллект» — систему, значительно превосходящую человека по интеллекту.