Память ИИ-агента можно построить в несколько слоев. В ней могут использоваться и сжатие текущего контекста с выделением главного, и долгосрочная база знаний, из которой агент находит нужные факты по запросу
ChatGPT тоже умеет сохранять сведения и использовать историю разговоров, когда это доступно и включено. При этом, как пишет OpenAI, память не сохраняет каждую деталь. В собственной системе можно отдельно настроить, что записывать, как искать и кому из агентов это показывать
У меня сформирована многоуровневая система памяти. Для каждого агента настроена ротация: раз в день или неделю, в зависимости от частоты использования, выделяется важное и формируются итоги. Остальное переносится в архив, чтобы освободить оперативную память агента
Что агенту помнить о клиенте
В рабочем контексте находятся текущий запрос и детали разговора. Когда диалог становится длинным, система может сохранить краткое содержание, а полную переписку оставить в архиве. Сжатие экономит место, но в итог может не попасть важная деталь - поэтому полезно сохранять ссылку на исходный разговор
Для длительной работы пригодятся отдельные записи: что клиенту нужно, о чем договорились, какие решения приняли и что изменилось. У каждой записи желательно хранить источник и дату. Если клиент поменял условия, агент увидит актуальную договоренность, а не будет уверенно ссылаться на старую
Как память находит нужное
Отдельная модель может разбирать разговоры и раскладывать факты, решения и выводы по базе знаний. База PostgreSQL хранит записи, а поиск помогает их находить. Например, pgvector добавляет в PostgreSQL поиск похожих по смыслу записей; его можно сочетать с поиском по словам. Сама база не анализирует разговоры - для этого нужна отдельная логика
Когда приходит новый вопрос, система ищет подходящие записи и добавляет их в контекст агента. Если клиент спрашивает о предыдущей договоренности, агент может получить найденный факт вместе с источником. Но поиск иногда пропускает нужное или возвращает устаревшее, поэтому важные решения стоит сверять с оригиналом
С чего начать
Определи, какие сведения действительно нужны агенту и кто имеет к ним доступ. Не вся переписка должна попадать в общую память: данные разных клиентов нужно разделять, а ошибочные записи - уметь исправлять
Над памятью стоит задуматься в самом начале. Из собранных данных постепенно формируется база знаний, которая может стать твоим вторым цифровым сознанием. Как связать память с задачами и остальными компонентами, показываю на странице архитектуры ИИ-систем