ИИ-агенты при очистке памяти ПК могут угрожать приватности

Применение искусственного интеллекта для очистки памяти компьютера может нести угрозу конфиденциальности данных. Такую точку зрения высказал эксперт по информационной и экологической безопасности Илья Рыбальченко, чье мнение приводит РИАМО. Об этом сообщает портал Царьград.

По словам специалиста, нейросети, анализируя персональные файлы, получают к ним доступ. При этом передача этих данных разработчикам зависит от настроек конкретного сервиса, уточнил он.

Рыбальченко считает, что процесс удаления ненужных файлов не должен быть полностью автоматизирован. Решение об удалении должен принимать пользователь, а агент — лишь предоставить список файлов и их анализ. Эксперт также рекомендует отправлять файлы в корзину, а не удалять их окончательно.

Специалист подчеркнул, что доступ модели к файлам и ее обучение на этих данных — разные вещи. Агенту может потребоваться изучить содержимое диска для оценки данных, однако дальнейшее использование информации, включая сохранение на сервере и применение для улучшения моделей, определяется архитектурой продукта, его настройками и политикой данных.

Ранее сообщалось, что глава OpenAI Сэм Альтман заявил о преимуществах ИИ, которые перевешивают риски, а сооснователь Anthropic Дарио Амодей предупредил о возможности обхода системами ИИ человеческого контроля.