Термин
Задержка (latency)
Англ.: лаг, задержка
Короткое определение
Промежуток между входом и результатом, обычно в миллисекундах. В видео реального времени бюджет на ИИ-шаг крошечный – часто менее 100 мс сквозь весь путь.
Latency измеряет, сколько пользователь ждёт результата – от произнесённого слова до его субтитра или от кадра до размытого фона. Звонки реального времени ощущаются сломанными примерно после 100-200 мс, поэтому каждая модель в цепочке должна укладываться в жёсткий бюджет.
Считаете параметры для своего продукта?
Поможем собрать энкодер-леддер и посчитать стоимость доставки – до старта разработки.