Google ИИ по-разному отвечает на запросы о разных национальностях

Пользователи заметили, что ИИ-обзоры Google дают противоположные советы в зависимости от национальности, указанной в запросе. При изменении одного слова система может перейти от предложений приятно провести время к рекомендациям оценить угрозу и искать людное место. Эту информацию сообщает сайт Life.ru.

Для проверки использовалась конструкция «я наедине с…», после которой подставлялись разные национальности. В случае с белорусом ИИ описывал общение в позитивном ключе, упоминая доброжелательность, чувство юмора и варианты совместного отдыха. Похожую реакцию система показывала и в запросах об узбеках.

В конце сентября пользователи заметили, что ответ Google по запросу об узбеках изменился: вместо предупреждений о возможной опасности ИИ стал рассказывать о гостеприимстве и традициях. Однако при упоминании аварцев алгоритм рассматривал ситуацию как потенциально опасную и советовал уйти в людное место либо обратиться за помощью. При запросе об украинцах ИИ предлагал соблюдать личные границы и выбирать нейтральные темы для разговора.

Подобные случаи уже становились предметом споров за рубежом. В августе пользователи обнаружили, что Google при одинаковой формулировке предлагал поговорить или выпить кофе с представителями одних национальностей, а при упоминании других — связаться с экстренными службами.

В самой Google признают, что большие языковые модели способны воспроизводить стереотипы и предубеждения, содержащиеся в обучающих данных. Компания также предупреждает, что ИИ-обзоры могут выдавать неточную или оскорбительную информацию и рекомендует перепроверять ответы.

Это не первый случай, когда работа Gemini вызывает вопросы у пользователей. В августе Life.ru писал, что нейросеть Google заподозрили в доступе к закрытой информации после того, как она назвала ещё не опубликованное имя персонажа из разрабатываемой игры. Разработчик позже подтвердил, что ответ совпал с действительностью.