Термин
ИИ-модерация контента
Англ.: модерация, trust and safety
Короткое определение
Автоматическая проверка живого или загруженного медиа на небезопасный контент – нагота, насилие, абьюз – чтобы блокировать, размывать или помечать на масштабе.
ИИ-модерация контента прогоняет детекцию и классификацию по потокам и загрузкам, ловя нарушения политик быстрее людей. В видео реального времени она должна действовать внутри звонка, балансируя ложные срабатывания и пропущенный вред, и обычно эскалирует трудные случаи людям.
Считаете параметры для своего продукта?
Поможем собрать энкодер-леддер и посчитать стоимость доставки – до старта разработки.