Термин
RAG (генерация с извлечением)
Англ.: генерация с извлечением
Короткое определение
Подача языковой модели релевантных фактов, извлечённых из ваших данных в момент запроса, чтобы ответы опирались на реальные источники, а не только на память.
RAG извлекает самые релевантные фрагменты или клипы из хранилища знаний и передаёт их модели как контекст для ответа. Это сдерживает галлюцинации, держит ответы актуальными и позволяет модели использовать приватные данные, которым её не обучали.
Считаете параметры для своего продукта?
Поможем собрать энкодер-леддер и посчитать стоимость доставки – до старта разработки.