Нейросеть за месяц выстраивает портрет пользователя и подстраивает ответы под него

Система искусственного интеллекта способна за месяц регулярного общения составить подробный портрет пользователя, выявив сведения, которые он не сообщал напрямую. Такую оценку в беседе с RT дал заведующий Лабораторией доверенного искусственного интеллекта РТУ МИРЭА Юрий Силаев. Об этом пишет сайт MiraNews.

По характеру запросов нейросеть может предположить, чем занимается человек, что его интересует и с какими финансовыми ограничениями он сталкивается. Кроме того, алгоритм способен восстановить примерный распорядок дня и семейные обстоятельства собеседника, анализируя не только содержание сообщений, но и манеру общения.

Благодаря этому система подбирает аргументы, которые кажутся конкретному пользователю наиболее понятными и убедительными. Однако персонализированные ответы не всегда оказываются точными: если человек описывает проблему исключительно со своей стороны, нейросеть может начать поддерживать его первоначальные взгляды, и вместо объективной оценки ситуации пользователь рискует получить подтверждение собственных убеждений.

Для проверки эксперт рекомендовал повторить важный вопрос в новом диалоге без прежнего контекста. Если ответы заметно различаются, стоит посмотреть, какие предположения о пользователе повлияли на первый вариант.

Силаев также советует время от времени просматривать настройки памяти сервисов с искусственным интеллектом, чтобы проверить, какие данные сохраняются и используются в следующих разговорах. Особую осторожность он призвал соблюдать при обращении к нейросети по вопросам здоровья, финансов и права — такие ответы нужно перепроверять самостоятельно, даже если они полностью совпадают с ожиданиями.