Когда речь заходит о человеческом интеллекте, память — это один из ключевых аспектов, который позволяет нам учиться на опыте, адаптироваться к новым условиям и принимать более обоснованные решения. Аналогично, AI-агенты становятся более эффективными благодаря наличию памяти. Например, AI-агент может запомнить ваши предыдущие покупки, бюджет и предпочтения, предлагая подарки для ваших друзей на основе ранее проведенных разговоров.
Проблемы без памяти
Обычно AI-агенты разбивают задачи на этапы (планирование → поиск → вызов API → анализ → запись), но без памяти они могут забыть, что произошло на предыдущих этапах. Это приводит к повторным вызовам инструментов, извлечению тех же данных или упущению простых правил, таких как «всегда обращаться к пользователю по имени». В результате, повторение одного и того же контекста может привести к увеличению затрат токенов, замедлению работы и предоставлению несогласованных ответов. Индустрия потратила миллиарды на векторные базы данных и инфраструктуру встраивания, чтобы решить, по сути, проблему хранения данных для AI-агентов. Эти решения создают системы-черные ящики, где разработчики не могут инспектировать, запрашивать или понимать, почему были извлечены определенные воспоминания.
Решение от GibsonAI
Команда GibsonAI разработала Memori, чтобы исправить эту проблему. Memori — это открытый движок памяти, который предоставляет постоянную, интеллектуальную память для любого LLM, используя стандартные SQL-базы данных (PostgreSQL/MySQL). В этой статье мы рассмотрим, как Memori решает проблемы с памятью и что он предлагает.
Исследования показывают, что пользователи тратят 23-31% своего времени на предоставление контекста, который они уже делились в предыдущих разговорах. Для команды разработчиков, использующих AI-ассистентов, это переводится в:
- Индивидуальный разработчик: ~2 часа/неделя на повторение контекста
- Команда из 10 человек: ~20 часов/неделя потерянной продуктивности
- Предприятие (1000 разработчиков): ~2000 часов/неделя или $4M/год на избыточную коммуникацию
Помимо продуктивности, это повторение разрушает иллюзию интеллекта. AI, который не может запомнить ваше имя после сотен разговоров, не кажется умным.
Преимущества SQL
SQL-базы данных существуют уже более 50 лет. Они являются основой почти каждого приложения, которое мы используем сегодня, от банковских приложений до социальных сетей. Почему? Потому что SQL прост, надежен и универсален.
Каждый разработчик знает SQL. Вам не нужно изучать новый язык запросов.
Надежность, проверенная временем. SQL управляет самыми критически важными системами мира на протяжении десятилетий.
Мощные запросы. Вы можете легко фильтровать, объединять и агрегировать данные.
Сильные гарантии. Транзакции ACID обеспечивают согласованность и безопасность ваших данных.
Огромная экосистема. Инструменты для миграции, резервного копирования, панелей мониторинга и наблюдения повсюду.
Когда вы строите на SQL, вы стоите на десятилетиях проверенной технологии, а не изобретаете колесо заново.
Недостатки векторных баз
Большинство конкурирующих систем памяти AI сегодня построены на векторных базах данных. На бумаге они звучат продвинуто: они позволяют хранить встраивания и искать по сходству. Но на практике они имеют скрытые издержки и сложность:
- Множество движущихся частей. Типичная установка требует векторной БД, кэша и SQL БД только для функционирования.
- Зависимость от поставщика. Ваши данные часто находятся внутри проприетарной системы, что затрудняет их перемещение или аудит.
- Извлечение из черного ящика. Вы не можете легко увидеть, почему было извлечено определенное воспоминание.
- Дорого. Затраты на инфраструктуру и использование быстро накапливаются, особенно в масштабе.
- Сложно отлаживать. Встраивания не читаемы для человека, поэтому вы не можете просто сделать запрос с помощью SQL и проверить результаты.
Инновации Memori
Memori использует структурированное извлечение сущностей, картирование отношений и извлечение на основе SQL для создания прозрачной, портативной и запрашиваемой памяти AI. Memori использует нескольких агентов, работающих вместе, чтобы интеллектуально продвигать важные долгосрочные воспоминания в краткосрочное хранилище для более быстрого внедрения контекста.
С одной строкой кода memori.enable() любой LLM получает возможность запоминать разговоры, учиться на взаимодействиях и поддерживать контекст между сессиями. Вся система памяти хранится в стандартной базе данных SQLite (или PostgreSQL/MySQL для корпоративных развертываний), что делает её полностью портативной, поддающейся аудиту и принадлежащей пользователю.
Ключевые отличия:
- Радикальная простота: одна строка для включения памяти для любой LLM-фреймворка (OpenAI, Anthropic, LiteLLM, LangChain)
- Истинное владение данными: память хранится в стандартных SQL-базах данных, которые полностью контролируются пользователями
- Полная прозрачность: каждое решение о памяти можно запросить с помощью SQL и полностью объяснить
- Отсутствие зависимости от поставщика: экспортируйте всю свою память в файл SQLite и перемещайте куда угодно
- Экономическая эффективность: на 80-90% дешевле, чем решения на основе векторных баз данных в масштабе
- Готовность к соблюдению: хранение на основе SQL позволяет вести следы аудита, соблюдать требования к местонахождению данных и нормативные требования
Использование Memori:
- Умный опыт покупок с AI-агентом, который запоминает предпочтения клиентов и поведение при покупках.
- Персональные AI-ассистенты, которые запоминают предпочтения пользователей и контекст.
- Боты поддержки клиентов, которые никогда не задают один и тот же вопрос дважды.
- Образовательные наставники, адаптирующиеся к прогрессу студентов.
- Системы управления знаниями команды с общей памятью.
- Приложения, ориентированные на соблюдение, требующие полного аудита.
Метрики воздействия на бизнес:
- Время разработки: сокращение на 90% времени реализации системы памяти (часы против недель)
- Затраты на инфраструктуру: сокращение на 80-90% по сравнению с решениями на основе векторных баз данных
- Производительность запросов: время отклика 10-50 мс (в 2-4 раза быстрее, чем поиск по векторному сходству)
- Портативность памяти: 100% данных памяти портативны (по сравнению с 0% в облачных векторных базах данных)
- Готовность к соблюдению: полная возможность аудита SQL с первого дня
- Нагрузка на обслуживание: одна база данных против распределенных векторных систем
Технические инновации:
Memori представляет три основных инновации:
- Система памяти с двумя режимами: сочетание «сознательной» рабочей памяти с «авто» интеллектуальным поиском, имитирующим когнитивные модели человека.
- Универсальный слой интеграции: автоматическое внедрение памяти для любого LLM без специфического для фреймворка кода.
- Многоагентная архитектура: несколько специализированных AI-агентов, работающих вместе для интеллектуальной памяти.
Уже существует несколько подходов к предоставлению AI-агентам какой-либо формы памяти, каждый из которых имеет свои сильные стороны и компромиссы:
- Mem0 → Функционально богатое решение, сочетающее Redis, векторные базы данных и слои оркестрации для управления памятью в распределенной настройке.
- LangChain Memory → Предоставляет удобные абстракции для разработчиков, работающих в рамках LangChain.
- Векторные базы данных (Pinecone, Weaviate, Chroma) → Ориентированы на поиск семантического сходства с использованием встраиваний, предназначены для специализированных случаев использования.
- Пользовательские решения → Внутренние разработки, адаптированные к специфическим бизнес-потребностям, предлагающие гибкость, но требующие значительного обслуживания.
Эти решения демонстрируют различные направления, которые индустрия принимает для решения проблемы памяти. Memori выходит на арену с другой философией, вводя память в SQL-нативной, открытой форме, которая проста, прозрачна и готова к производству.
Кроме того, AI-агентам нужна не только память, но и база данных, чтобы сделать эту память полезной и масштабируемой. Подумайте о AI-агентах, которые могут безопасно выполнять запросы в изолированной песочнице базы данных, оптимизировать запросы со временем и автоматически масштабироваться по требованию, например, инициируя новую базу данных для пользователя, чтобы хранить их релевантные данные отдельно.
Надежная инфраструктура базы данных от GibsonAI поддерживает Memori. Это делает память надежной и готовой к производству с:
- Мгновенным предоставлением
- Автоматическим масштабированием по требованию
- Ветвлением базы данных
- Версионированием базы данных
- Оптимизацией запросов
- Точкой восстановления
В то время как конкуренты гонятся за сложностью с распределенными векторными решениями и проприетарными встраиваниями, Memori принимает проверенную надежность SQL-баз данных, которые поддерживают приложения на протяжении десятилетий.
Цель не в том, чтобы создать самую сложную систему памяти, а в том, чтобы создать самую практичную. Храня память AI в тех же базах данных, которые уже управляют приложениями мира, Memori позволяет будущему, где память AI так же портативна, запрашиваема и управляема, как и любые другие данные приложения.
Посмотрите страницу GitHub здесь. Спасибо команде GibsonAI за лидерство в мыслях/ресурсы и поддержку этой статьи.
Часто задаваемые вопросы
Как Memori решает проблему памяти для AI-агентов?
Memori предоставляет постоянную, интеллектуальную память для AI-агентов, используя стандартные SQL-базы данных. Это позволяет AI-агентам запоминать предыдущие взаимодействия, учиться на них и поддерживать контекст между сессиями, что делает их более эффективными и персонализированными.
Какие преимущества использования SQL-баз данных для памяти AI?
SQL-базы данных просты, надежны и универсальны, что делает их идеальными для хранения памяти AI. Они обеспечивают полную прозрачность, возможность аудита и контроль над данными, а также экономическую эффективность по сравнению с векторными базами данных.
Какие проблемы возникают при использовании векторных баз данных для памяти AI?
Векторные базы данных сложны в настройке, зависят от поставщика и имеют высокие затраты на инфраструктуру. Они также затрудняют аудит и понимание извлеченных данных, что делает их менее предпочтительными для хранения памяти AI.
Как Memori улучшает производительность AI-агентов?
Memori сокращает время реализации системы памяти на 90% и снижает затраты на инфраструктуру на 80-90%. Это позволяет AI-агентам быстрее обрабатывать запросы и поддерживать контекст, что улучшает их общую производительность и эффективность.
Какие инновации предлагает Memori для AI-памяти?
Memori внедряет систему памяти с двумя режимами, универсальный слой интеграции и многоагентную архитектуру. Эти инновации позволяют AI-агентам эффективно управлять памятью, адаптироваться к пользователям и поддерживать контекст между сессиями.
