Tiered caching

Tiered caching выстраивает CDN иерархией: зритель попадает на edge-POP, edge при cache miss спрашивает регионального родителя, региональный родитель спрашивает origin только если тоже промахнулся. Каждый tier служит кешем для нижнего, мультиплицируя эффективный hit ratio, который видит origin. Cloudflare назвал это «Tiered Cache» как продукт, но базовый паттерн – shield, fan-in кеш, parent POP – встречается под разными именами в каждом крупном CDN.

Операционно tiered caching – это топологическое решение. Cloudflare предлагает «Smart Tiered Caching», автоматически выбирающий родительский POP по минимальному latency к origin; Origin Shield в CloudFront требует от оператора указать конкретный регион; tiered distribution в Akamai настраивается per content provider. Многоуровневые сетапы (edge → parent → super-parent → origin) сильнее снижают нагрузку на origin для очень масштабных событий, но добавляют задержку в cache-miss-пути.

Ключевой компромисс – свежесть против эффективности. Глубокая иерархия – больше мест для инвалидации при изменении манифеста (а это происходит каждый segment-duration в live). Большинство CDN обрабатывают это через версионированные URL (у каждого нового сегмента – уникальный URL, инвалидация не нужна для сегментов) и короткие TTL на манифестах (1–2 секунды). Сделано правильно, tiered caching даёт 95 %+ origin offload даже на live с миллионами concurrent-зрителей.