RAGFlow режет документы по смыслу, а не по токенам

Классическая RAG-система режет документ на фрагменты по 500–1000 токенов вслепую, не глядя на вёрстку. Именно эту проблему разбирает материал на Хабре: если условие гарантии стоит отдельной строкой рядом с таблицей характеристик, поиск найдёт нужные слова, но сам ответ окажется в другом куске текста. Модель получает рваньё и додумывает цифру, которой в документе не было.

RAGFlow, как сообщает Хабр, идёт от структуры. Сначала система распознаёт дерево заголовков и сетку таблиц, держит таблицу единым объектом и только затем нарезает смысловые блоки. В ответе она показывает конкретные ячейки, откуда взяла данные, — то есть возвращает не только текст, но и место, на которое можно сослаться.

Иллюстрация из публикации: технический отчёт, где характеристики модели приведены в таблице, а примечание про гарантию при 380V спрятано на соседней странице. Для обычной нарезки это ловушка, для структурного разбора — просто ещё один узел документа. Насколько подход работает на реальных корпусах, в заметке не измеряется: речь идёт о принципе сборки контекста, а не о бенчмарках.

Контекст: RAG остаётся основным способом подсунуть модели корпоративные документы, но качество ответа упирается в качество нарезки. Пока одни настраивают размер чанка, другие учат систему видеть вёрстку — и это, судя по описанию, главный аргумент RAGFlow.