Cache hit ratio (CHR)

Cache hit ratio – самая прямая мера того, как хорошо CDN работает на вашем контенте. CHR = (cache hits) / (cache hits + cache misses). CHR 95 % означает, что 5 % запросов доходит до origin; CHR 80 % – 20 %. Для VOD-стриминга здоровый CHR – между 95 % и 99 %. Для live, где каждый зритель хочет свежий манифест, CHR манифестов ниже (50–80 %), а CHR сегментов высокий (95 %+).

У CHR два измерения, за которыми стоит следить. Edge CHR – то, что репортит ближайший к зрителю POP, доля запросов, обслуженных с локального SSD. Origin CHR – то, что видит origin, доля входящих запросов, которые он отвечал. При tiered caching они могут заметно отличаться: edge CHR – 92 %, но при shield, ловящем большинство промахов, origin CHR (с точки зрения origin: обслужено / получено) – 99 %+.

Улучшать CHR – конечная инженерная игра. Стандартные рычаги: длинные TTL на стабильном контенте (сегменты не меняются, TTL месяцами – норма), консистентные URL (не пихайте session ID в URL сегмента – каждый зритель получит свою cache-запись), shielding (сводить промахи), cache warming (предзагрузить популярный контент во все edge до прихода зрителей). Улучшение CHR на 1 процентный пункт на петабайтах трафика в месяц двигает реальные деньги в CDN-биллинге.