Некоммерческая организация призвала ограничить доступ подростков к ChatGPT

Некоммерческая организация Common Sense Media, протестировавшая работу ChatGPT, пришла к выводу, что сервис может быть опасен для детей. Об этом сообщает Bloomberg. Об этом пишет издание Комсомольская правда.

В ходе тестирования выяснилось, что чат-бот не всегда своевременно уведомлял родителей о продолжительных разговорах подростков на темы суицида, самоповреждения или расстройств пищевого поведения. В некоторых случаях предупреждения, по утверждению исследователей, вообще не поступали.

Кроме того, специалисты обратили внимание на реакцию ChatGPT на разговоры о кризисных ситуациях. По их данным, сервис не всегда предлагал пользователям обратиться за профессиональной помощью или связаться с кризисными службами.

Common Sense Media призвала OpenAI приостановить продвижение ChatGPT for Teens и не предоставлять подросткам доступ к сервису до тех пор, пока компания не сможет обеспечить более надежные возрастные меры безопасности.

В OpenAI с выводами исследования не согласились. Представитель компании заявил, что значительная часть проверки могла завершиться еще до того, как компания полностью внедрила функции родительского контроля. Они также попросили Common Sense Media провести повторное тестирование с учетом обновленных механизмов защиты.

Ранее KP.RU писал о приостановке нескольких наиболее перспективных моделей OpenAI. Расследуются десятки тысяч инцидентов, произошедших по вине нейросети.