Что означает RAG простыми словами
Документы делят на фрагменты и индексируют, запрос преобразуют для поиска, кандидатов ранжируют и передают LLM. Ответ зависит от полноты источника, качества разбиения и retrieval: модель не сможет опереться на документ, который не найден.
RAG позволяет обновлять знания без переобучения модели и показывать источники, но не гарантирует истину. Он превращает одну задачу проверки в две: нашла ли система правильный фрагмент и верно ли модель его использовала.
Пример
Бот поддержки ищет пункт действующего тарифа, отвечает только по найденному тексту и даёт ссылку на документ с датой версии.
Как применять на практике
- Определите доверенные источники, владельца обновления и правила доступа к каждому документу.
- Настройте разбиение и retrieval на реальных вопросах, включая случаи без ответа.
- Проверяйте точность цитат отдельно от полноты и полезности итогового ответа.
Частые ошибки
- Индексировать черновики и устаревшие версии без приоритета источников.
- Всегда заставлять модель отвечать, даже когда подходящий фрагмент не найден.
- Оценивать только гладкость текста, не измеряя качество retrieval.