Предел Шеннона

Shannon limit (предел Шеннона) – теоретическая граница того, насколько компактно можно сжать данные без потерь. Назван в честь Клода Шеннона, математически доказавшего это в 1948 году. Предел гласит: сигнал с энтропией N бит на символ невозможно надёжно сжать ниже N бит на символ без потери информации. Это не рекомендация и не эвристика – это жёсткая математическая стена.

Для видео это важно, потому что задаёт конкретный потолок для любого будущего кодека. Если у видеосигнала истинная энтропия, скажем, 8 мегабит в секунду настоящей информации, ни один lossless-кодек никогда не закодирует его меньше чем за 8 Mbps. Современные lossless-кодеки (FFV1, ProRes 4444 XQ) подбираются к Shannon limit на несколько процентов для своего типа контента – они почти математически оптимальны. Дальнейшее сжатие за предел возможно только при условии потери информации, и именно это делают lossy-кодеки (H.264, HEVC, AV1).

Для продуктовой команды Shannon limit объясняет контринтуитивный индустриальный паттерн. Lossless-сжатие почти не улучшалось за 30 лет – места для роста мало, мы у предела. Lossy-сжатие продолжает улучшаться драматически каждое поколение кодеков (50 % экономии H.264 → HEVC, 30 % HEVC → AV1, ещё 30 % AV1 → AV2) – потому что «предел» для lossy зависит от того, что заметит человек, а не от сырого информационного содержания, и эта перцептивная граница продолжает двигаться по мере того, как исследования улучшают понимание зрения. Вывод: тот, кто обещает бесконечные улучшения кодеков, по сути делает ставку на перцептивные исследования, а не на взлом математики.