Память ИИ-агента и почему без неё он забывает ваш проект
Большая языковая модель работает в пределах текущего контекста: она видит запрос, прикреплённые материалы и историю диалога, которую получила вместе с ними. Когда диалог становится слишком длинным, часть ранних сообщений может перестать помещаться в доступное для модели окно контекста. При переходе в новый чат ситуация повторяется: прошлые решения, источники, определения и замечания остаются за пределами текущей задачи.
Для короткого вопроса это обычно не создаёт проблемы. Исследовательский проект устроен иначе. Работа может продолжаться неделями и месяцами. За это время появляются версии гипотез, подборки статей, результаты экспериментов, таблицы наблюдений, замечания руководителя, исправленные расчёты и новые вопросы. Агентной системе необходимо удерживать этот материал, чтобы она могла возвращаться к ранее принятым решениям и не предлагать заново уже отвергнутые варианты.
Память агента размещают во внешних хранилищах: базах данных, каталогах документов, журналах действий, графах знаний и поисковых индексах. Когда системе требуется продолжить работу, она извлекает из этих хранилищ сведения, относящиеся к текущей задаче, и передаёт их модели вместе с новым запросом. Такой механизм помогает сохранять рабочий контекст между сессиями и задачами, не пытаясь каждый раз поместить в один запрос весь архив проекта.
У памяти есть разные формы. Кратковременная память хранит то, что нужно прямо сейчас: условие задачи, последние сообщения, промежуточные расчёты. Долговременная память сохраняет сведения, полезные в будущем. В эпизодической памяти остаются конкретные события: когда проводился эксперимент, какие параметры использовались, почему был отклонён один из вариантов. Семантическая память содержит более общие знания: определения, правила обработки данных, характеристики объекта исследования. Такое разделение позволяет агентной системе находить именно тот фрагмент опыта, который нужен в конкретный момент.
Представим студенческий проект по анализу качества воды в городском водоёме. Агент может хранить описание методики отбора проб, исходные таблицы измерений, список использованных источников и журнал изменений. Через неделю студент уточняет один из выводов. Система извлекает данные, связанные с этим выводом, показывает, на каких измерениях и источниках он основан, и предлагает проверить расчёт. Исследователь получает не «память обо всём подряд», а восстановимую цепочку работы, которую можно проверить и объяснить на защите.
Память делает агентную систему полезнее, но добавляет новые требования. Нужно заранее определить, какие материалы разрешено сохранять, кто получает к ним доступ, сколько времени они хранятся и как исправляются ошибки. Нельзя помещать в общую базу персональные данные, неопубликованные результаты или чужие материалы без согласия и правил защиты. Сохранённая ошибка тоже становится частью памяти, поэтому источник, дата и степень надёжности каждого важного факта должны быть понятны.
Хороший проект с агентной памятью начинается с дисциплины данных: понятной структуры папок, названий файлов, версий документов и журнала решений. Тогда большая языковая модель получает возможность участвовать в длинной исследовательской работе, сохраняя её нить, а человек сохраняет контроль над тем, что именно система помнит и на каких основаниях делает выводы.
Роман Викторович Душкин, профессор Международного научно-исследовательского института проблем управления, генеральный директор ООО «А-Я эксперт».