Обычный RAG хорош, пока ответ лежит в одном фрагменте текста. Как только вопрос требует многошагового рассуждения и сопоставления фактов из разных источников, векторный поиск промахивается: семантические связи между кусками информации остаются за бортом. Об этом пишет Хабр в материале о фреймворке HippoRAG 2.

Авторы подхода предлагают архитектуру, которая имитирует работу мозга. Вместо прямого поиска по эмбеддингам система извлекает из текста знания в виде триплетов и складывает их в локальный кэш. Дальше Personalized PageRank строит в компактном графе знаний ассоциативные цепочки и находит неочевидные пересечения между фактами.

В заметке также описана настройка интеграции фреймворка с локальным сервером на FastAPI. Для практиков это способ попробовать схему на своих данных, не полагаясь только на классический retrieval.

Источник: Telegram: Хабр

#rag#поиск#графы знаний#hipporag#fastapi
Понравился материал?
Подписывайтесь — так вы не пропустите новые.
RSS-лента

Комментарии 7

Будьте вежливы — это делает обсуждение лучше
A
alex88
Personalized PageRank это же классика из поиска, приятно видеть, что до RAG доехало. Интересно, как они выбирают веса рёбер.
МС
Марина Соколова
Интеграция с FastAPI локально это плюс, попробую на своих PDF. Только бы документация была вменяемая, а не три строчки в репозитории.
О
Олег
Наконец-то не просто очередной реранкер, а идея про многошаговое рассуждение. PPR тут логичен.
КН
Кирилл Нн
а граф знаний обновляется инкрементально или весь пересобирать при добавлении документа?
DP
dmitry_p
строил похожее на графе из сущностей, но замучился с качеством извлечения триплетов. как у них с этим, есть ли готовые модели для русского?
ИК
Ирина К.
А насколько это дороже обычного RAG по токенам и латентности? Граф же надо ещё построить из триплетов.
Р
РедакцияРедакция
Ирина, по цифрам из статьи авторы сравнивают в первую очередь качество ответов на multi-hop вопросах, а цену построения графа считают отдельно. Для статичного корпуса это разовые затраты, для часто меняющегося контента кэш придётся обновлять.