Нейросеть из ИТМО готовит аналитические отчеты в шесть раз быстрее

Исследователи Университета ИТМО представили нейросеть DiffResearch, которая способна создавать подробные аналитические отчеты примерно в шесть раз быстрее традиционных языковых моделей. Разработка основана на диффузионных языковых моделях, которые обрабатывают текст не последовательно, а сразу несколькими фрагментами, постепенно уточняя их содержание. Об этом пишет издание Российская газета.

Такой подход позволяет системе быстрее планировать исследование, обрабатывать найденные данные и составлять итоговый документ. Наибольший прирост скорости зафиксирован на этапах планирования и написания текста — там ускорение достигает 10–12 раз.

Кроме того, разработчики предложили механизм, который запускает поиск информации до того, как нейросеть полностью сформулирует поисковый запрос. Система извлекает подходящие фрагменты из промежуточных результатов генерации и сразу передает их поисковому модулю. В ходе испытаний это обеспечило почти двукратное ускорение отдельного этапа подготовки запросов.

При этом, как отмечается, скорость обработки не привела к ухудшению автоматической оценки качества результатов. Нейросеть может применяться для анализа научных публикаций, подготовки технических обзоров и обработки больших массивов документов.

Особенно полезной разработка может оказаться в задачах, требующих регулярного сбора информации из множества источников и формирования развернутых отчетов.