Термин
Галлюцинация (ИИ)
Англ.: галлюцинации LLM, конфабуляция, выдуманные факты модели
Короткое определение
Гладкий и уверенный, но ложный ответ модели. В клинической документации это дефект безопасности: его снижают привязкой к источникам (RAG, генерация строго по расшифровке) и обязательной проверкой врачом до подписи.
Считаете параметры для своего продукта?
Поможем собрать энкодер-леддер и посчитать стоимость доставки – до старта разработки.