Почему искусственный интеллект «забывает»: отличие памяти ИИ от человеческой

Современные нейросети демонстрируют впечатляющие способности, но их память принципиально отличается от человеческой. Даже при обработке огромных массивов данных ИИ не умеет накапливать опыт так, как это делает человек.

Как объяснил российский исследователь Юрий Куратов из Института AIRI, память искусственного интеллекта — это не воспоминания, а набор чисел, зафиксированных в параметрах модели. Эти параметры формируются на этапе обучения и остаются неизменными, если не проводится дообучение. В результате нейросеть может быстро выдавать факты, но плохо усваивает новые знания «на лету».

Современные модели опираются на три типа памяти:

• Параметрическая — долгосрочные знания, встроенные в структуру сети;
• Контекстная — кратковременные данные текущего запроса, управляемые архитектурой Трансформер;
• Внешняя — базы данных, интернет и файлы, к которым ИИ обращается при необходимости.

Главная проблема — консолидация: нейросеть не умеет эффективно переносить информацию из кратковременной памяти в долговременную, как это делает человек. Кроме того, при дообучении возникает «катастрофическое забывание»: новые задачи могут стирать старые навыки.

Для решения этих ограничений применяются методы смешивания данных, дистилляции знаний, разделения параметров и адаптации LoRA. Они позволяют балансировать между сохранением старых знаний и усвоением новых, но пока не дают полной «памяти человека».

Особое внимание уделяется работе с длинным контекстом: современные архитектуры способны обрабатывать десятки миллионов токенов, что важно для анализа больших текстов, корпоративной переписки и научных данных, включая биологические последовательности.

Эксперты считают, что будущее ИИ связано с гибридной иерархической памятью, объединяющей быструю рабочую память, рекуррентные структуры для долгосрочных зависимостей и механизмы обращения к внешним источникам. Идеальная модель будет не просто хранить всё, а выбирать важное, отбрасывать лишнее и учиться на ошибках — как человек.

Сегодня работа с памятью является ключевым направлением развития ИИ и, возможно, именно она станет основой для создания систем, приближающихся к человеческому мышлению.