Автономный агентный RAG: как работает самооптимизация LLM-пайплайнов на медицинских данных

Сейчас принято считать, что достаточно объединить несколько LLM в цепочку, и агентная RAG-система начнет решать любые задачи. На деле любые новые данные в продакшене моментально ломают хрупкую логику промптов. Проект автономного агентного RAG пытается решить эту проблему через эволюционный подход, заставляя систему самостоятельно искать баланс между стратегиями поиска и координацией агентов.

Архитектура реализована через графы в LangGraph и локальные модели на базе Ollama. Рабочий процесс разбит на создание контента и многомерную оценку. Если результат не соответствует требованиям, агент-диагност ищет причину ошибки, а агент-архитектор переписывает SOP (стандартные операционные процедуры). Система прогоняет цикл заново, формируя фронт Парето — набор лучших компромиссных решений по точности и соответствию правилам.

В качестве полигона выбрана медицина с интеграцией баз PubMed, гайдлайнов FDA и клинического датасета MIMIC-III. Выбор сложный, и именно он обнажает главную проблему концепции. Финальное утверждение пайплайна все равно остается за человеком, так как качество саморефлексии агентов жестко ограничено метриками LangSmith. Но не приведет ли такая автоматическая подгонка инструкций к банальному переобучению алгоритма под конкретные эвалюаторы вместо реального улучшения логики?