Выпуск 31. CDN для инженера стриминга

Сто тысяч зрителей на средних 5 Мбит/с — это 500 Гбит/с отдачи каждую секунду, и ни один сервер такое не вытянет. Финалы чемпионатов и концерты смотрят без буферизации благодаря сети доставки контента, устроенной для видео глубже, чем для обычного сайта. Тридцать первый выпуск разбирает CDN глазами инженера стриминга: зачем живому эфиру пять ярусов кеша и почему всё крутится вокруг одной метрики — доли попаданий в кеш. В выпуске: — иерархия стримингового CDN — origin → shield → региональный кеш → edge → зритель — и почему обычному сайту хватает одного слоя кеша на краю сети; — эффект стада (thundering herd): каждые 4 секунды появляется новый сегмент, и все зрители приходят за ним в одну и ту же секунду; — склейка запросов: тысячи одновременных промахов на edge уходят вверх одним запросом, а сегмент раздаётся зрителям ещё до конца загрузки с origin; — доля попаданий в кеш (CHR): здоровые 95–99 % на edge и почему падение с 95 до 90 % вдвое увеличивает нагрузку на origin; — сессионный токен в ключе кеша: как он дробит кеш на персональные копии и обрушивает на origin десятки тысяч запросов в секунду вместо десяти; — главный парадокс масштаба: ≈ 50 000 запросов/с сжимаются до ≈ 10 у origin, потому что origin видит число сегментов, а не число зрителей. «Декодировано» — подкаст компании Фора Софт по материалам серии книг «Справочник по видеоинженерии». Второй сезон — о стриминге, по книге «Видеостриминг». Фора Софт с 2005 года создаёт видеопродукты, real-time-коммуникации и AI-системы: 250+ проектов, живой стриминг с задержкой 0,4–0,5 секунды на 10 000 зрителей, решения для NBC, CBS и Red Bull. Если вы делаете продукт, где есть видео или онлайн-звонки, — приходите к нам: https://fora-soft.ru/