Термин
Галлюцинация
Англ.: конфабуляция
Короткое определение
Когда модель уверенно выдаёт связное, но ложное или выдуманное. Главный риск надёжности языкового и мультимодального ИИ, который снижают, а не устраняют.
Галлюцинация – это уверенно неверный ответ: неправильно прочитанная подпись, выдуманный факт, объект, которого нет в кадре. Её нельзя полностью убрать, поэтому продукты снижают её извлечением, заземлением, шагами проверки и ревью человеком для ответственного вывода.
Считаете параметры для своего продукта?
Поможем собрать энкодер-леддер и посчитать стоимость доставки – до старта разработки.