Edge-серверы и ИИ-приставки для видеоаналитики

Это инженерное руководство, а не юридическая консультация. Уточняйте детали у квалифицированного юриста.

Коротко

Edge-сервер – это компьютер с одним или несколькими графическими процессорами (GPU), который стоит в вашей локальной сети и запускает тяжёлую видеоаналитику сразу по многим камерам. Это уровень между умной камерой, которая видит только свой кадр, и облаком, которое далеко и считается по гигабайтам. Один массовый инференс-GPU обслуживает порядка 16–40 живых потоков с лёгким детектором, поэтому одна коробка с двумя GPU закрывает средний объект, а видео и аналитика остаются внутри здания. Эта статья объясняет, что такое edge-сервер на самом деле, сколько камер он тянет и при каких трёх условиях – тяжёлая модель, резидентность данных и стоимость трафика – средний уровень оказывается правильным ответом.

Почему это важно

Если вы проектируете или покупаете ИИ-систему видеонаблюдения, edge-сервер – это уровень, про который забывают, пока у камеры не кончается место, а от облака не приходит счёт. Умная камера дешёвая, но маленькая; облако мощное, но далёкое и платное. Между ними – коробка в вашей же сети, которая запускает аналитику, недоступную камере, и держит видео, которому не место в облаке. Понимание того, когда этот средний уровень – правильный дом для задачи, до того как вы выбрали «всё на камере» или «всё в облаке», и спасает проект от переделки через год. Эта статья даёт понятную модель edge-серверов и локальных ИИ-приставок, чтобы вы могли подобрать сервер, критично читать datasheet вендора и решать, какие задачи место на сервере, который у вас.

Три места, где может работать аналитика

Любая аналитика видеонаблюдения работает в одном из трёх мест, и весь этот блок – про выбор между ними. Сама камера может запускать лёгкий анализ своего видео – это edge AI на камере, и он ограничен теми немногими ваттами, что даёт сетевой кабель. Облако может запустить что угодно, но видео должно туда доехать, и вы платите за то, чтобы его переместить и обработать – это облачная видеоаналитика. Полное сравнение уровень за уровнем – в статье аналитика на краю против облака; коммерческий обзор этого выбора – в нашем блоге про edge AI против cloud ИИ в видеонаблюдении.

Эта статья – про третье место: компьютер, который у вас, в вашей сети, между камерами и облаком. Он достаточно мощный, чтобы запустить работу, недоступную камере, и достаточно близкий, чтобы видео не покидало здание. Чтобы понять, почему эта средняя позиция так полезна, начнём с того, что эта коробка собой представляет.

Нажмите, чтобы увеличить

Что такое edge-сервер на самом деле

Edge-сервер – это обычный мощный компьютер, поставленный на «краю» сети – на объекте, рядом с камерами, – чья задача запускать видеоаналитику, слишком тяжёлую для любой отдельной камеры. Слово «edge» («край») просто значит, что он близко к месту рождения данных, а не в далёком датацентре. В системе видеонаблюдения он обычно стоит в той же серверной, что и запись, принимает потоки с десятков камер и запускает ИИ-модели, превращающие эти потоки в детекции, треки и поиск.

Мощным его делает тот же компонент, что и игровой ПК или датацентр: GPU, графический процессор – чип, созданный делать тысячи маленьких вычислений одновременно, а это ровно форма математики, нужной ИИ-модели. Там, где камера несёт крошечный ИИ-чип на единицы «триллионов операций в секунду» (TOPS) в пределах нескольких ватт, серверный GPU считается сотнями TOPS и потребляет десятки ватт. Этот разрыв – причина, по которой сервер может то, чего не может камера: запустить модель крупнее, запустить несколько моделей сразу и смотреть на много камер вместо одной.

Купить этот уровень можно двумя путями, и разница важна. Первый – сервер своей сборки: стандартный стоечный сервер с одним или несколькими инференс-GPU, на котором работает выбранная вами аналитика. NVIDIA, чьи GPU доминируют в этой нише, сертифицирует партнёрские серверы под эту задачу в программе NVIDIA-Certified Systems (NVIDIA). Второй – готовый ИИ-аплайанс: запечатанная коробка от вендора видеонаблюдения с уже встроенными GPU, ОС и аналитикой, которую вы ставите в стойку и подключаете камеры. BriefCam, аналитическая платформа в составе Milestone, – показательный пример: она запускает аналитику полностью локально на серверах с процессорами Intel и GPU NVIDIA, лицензируется по одному GPU и не зависит от облака (Milestone / BriefCam). Аплайанс меняет гибкость на короткий путь до запуска; своя сборка меняет работу по настройке на контроль над железом и моделями.

В любом случае определяющая черта одна: компьютер с GPU, который у вас, в вашей сети, запускает аналитику и держит видео локально. Держитесь за это – из него вытекает каждое преимущество ниже.

Экономика чипа: почему сервер может то, чего не может камера

Чтобы понять средний уровень, сравним кремний на каждом уровне рядом. Цифры рассказывают историю лучше любого прилагательного.

ИИ-чип камеры сделан под производительность на ватт, потому что живёт на тех примерно 13 ваттах, что даёт один кабель Power over Ethernet (PoE), – и из них же надо питать сенсор, кодер и сеть (IEEE 802.3). У серверного GPU такого предела нет: он живёт в коробке со своим питанием и охлаждением, поэтому сделан под сырую пропускную способность. L4 от NVIDIA, массовый инференс-GPU, рассчитанный встать в любой сервер «от края до датацентра», даёт до 485 INT8 TOPS в 72-ваттном бюджете, несёт 24 ГБ памяти и включает четыре аппаратных видеодекодера – а сервер вмещает от одного до восьми таких (NVIDIA L4). Специализированный edge-модуль вроде NVIDIA Jetson AGX Orin достигает до 275 TOPS в 15–60 ваттах для меньших объектовых коробок (NVIDIA Jetson). Поставьте это рядом с единицами-десятками TOPS камеры – и разделение труда очевидно.

Табл. 1. Мощность по уровням. Камера и сервер различаются более чем на порядок и по мощности, и по питанию – именно поэтому тяжёлая и кросс-камерная работа уходит с камеры на коробку, у которой есть питание и охлаждение с запасом. Цифры мощности вендорские (NVIDIA) и зависят от модели и входа; TOPS L4 указаны с разрежённостью (sparsity).

Форма, которую стоит запомнить: камера рассчитана на один поток в несколько ватт, а сервер – на много потоков с запасом по питанию. Дальше – практический вопрос, который и задаёт покупатель: сколько камер тянет один сервер?

Плотность потоков: сколько камер тянет одна коробка

Ёмкость edge-сервера сводится к одному понятию – плотности потоков: сколько живых потоков камер один GPU может декодировать и анализировать одновременно. Её задают два предела подряд, и пропустить первый – самая частая ошибка подбора на этом уровне.

Первый предел – декодирование. Прежде чем анализировать видео камеры, GPU должен его распаковать, превратив сжатый поток H.264 или H.265 обратно в кадры. GPU делает это в аппаратных блоках фиксированной функции – у L4 их четыре, – и каждый декодер тянет лишь столько-то потоков. Если декодеры забиты, неважно, сколько осталось ИИ-вычислений: больше камер не влезет. Декодирование – это дверной проём, и он уже, чем ожидают.

Второй предел – инференс, собственно запуск ИИ-модели на каждом декодированном кадре. Вот опорная цифра уровня. На одном массовом инференс-GPU, гоняющем потоки 1080p через лёгкий детектор объектов на полной частоте кадров, команды обычно держат 16–32 одновременных потока (NVIDIA DeepStream). Частый понятный приём почти удваивает это: вместо детектора на каждом кадре запускают его каждый второй-третий кадр, а между ними объект ведёт лёгкий трекер – это поднимает плотность к 40+ потокам почти без потери точности (NVIDIA DeepStream). Пройдём арифметику для объекта:

1 GPU ≈ 24 потока (1080p, лёгкий детектор, каждый кадр) × 2 GPU в одной коробке ≈ ~48 потоков → один 2-GPU edge-сервер закрывает объект на ~48 камер, и видео не покидает здание.

Две оговорки держат эту цифру реалистичной. Тяжёлые модели – распознавание лиц, кросс-камерная реидентификация, всё сложнее лёгкого детектора – стоят дороже на поток и тянут счёт вниз, иногда сильно. И более высокое разрешение умножает нагрузку: 4K декодируется и считается куда медленнее 1080p. Поэтому «сколько камер на сервер» всегда несёт невысказанное «при какой модели и каком разрешении». Называйте плотность с моделью и разрешением, иначе она ничего не значит, – та же дисциплина, что требует и уровень камеры.

Нажмите, чтобы увеличить

Когда локальное устройство выигрывает и у камеры, и у облака

Средний уровень – не компромисс, а верный ответ на три конкретных вопроса. Когда хоть один из них «да», коробка, которая у вас, выигрывает.

Раз – модель слишком тяжёлая или широкая для камеры. Камера видит свой кадр и запускает одну-две лёгкие модели. Как только задаче нужно вести человека по двадцати камерам (реидентификация), искать в месяце записи «красный грузовик», запускать распознавание лиц по списку или применять большую модель, не влезающую в память камеры, – работа превышает устройство. Инженерия моделей для таких задач – в нашем разделе ИИ для видеоинженерии; здесь речь о том, где это работает – на GPU с вычислениями и кросс-камерным обзором, которых у камеры нет. Edge-сервер – первый уровень, видящий весь объект сразу.

Два – данные должны остаться локально. Часть видео не может покидать здание или страну по юридическим или политическим причинам. Локальный сервер обрабатывает его там же, где оно записано, поэтому узнаваемое видео никуда не едет. Это разбираем в отдельном разделе ниже, потому что часто это и есть решающий фактор.

Три – переместить видео в облако дороже сервера. Облачная аналитика означает постоянную выгрузку видео наверх, и эта полоса считается по счётчику. С некоторого числа камер постоянный счёт за перемещение видео превышает разовую стоимость коробки, которая делает работу на месте. Эту арифметику покажем дальше.

Когда ни одно из трёх не выполняется – лёгкая модель, нет требований резидентности, горстка камер, – проще камера или небольшой облачный след. Средний уровень заслуживает места ровно тогда, когда работа тяжёлая, данные чувствительные или парк большой. Большинство реальных систем в итоге используют все три уровня вместе – этот сплит разбираем в гибридном паттерне обработки.

Расчёт: точка перелома по облачному трафику

Цифры делают аргумент про полосу осязаемым. Возьмём объект на 100 камер, каждая – поток 4 мегапикселя примерно на 2 мегабита в секунду постоянного видео H.265. Чтобы анализировать это видео в облаке, его сперва надо туда отправить, а провайдеры берут плату за данные, покидающие их сеть («egress»), – показательная опубликованная ставка около $0,09 за гигабайт (AWS).

Сначала данные, которые одна камера производит за месяц:

2 Мбит/с × 2,6 млн секунд/месяц ÷ 8 бит/байт ≈ 648 ГБ на камеру в месяц.

Теперь весь объект и облачный счёт только за то, чтобы это переместить:

648 ГБ × 100 камер = 64 800 ГБ/месяц 64 800 ГБ × $0,09/ГБ ≈ $5 832 в месяц ≈ ~$70 000 в год – только egress.

Это до того, как заработает хоть один облачный GPU, до хранения, до обработки. Мощный сервер на два-четыре GPU – разовая покупка в нижних десятках тысяч долларов; против ~$70 000 в год трафика, которые повторяются вечно, локальная коробка окупается в первый же год и продолжает экономить. Перелом не тонкий – он наступает рано и круче с каждой добавленной камерой. (Более глубокую модель стоимости, с хранением и вычислениями, разбираем в экономике видеоаналитики и в расчёте хранения и ретенции.)

Нажмите, чтобы увеличить

Задержка и резидентность данных: два преимущества, которые не купить в облаке

Ещё два преимущества встроены в средний уровень, и ни одно нельзя вернуть в облаке за любые деньги.

Первое – задержка, промежуток между тем, что произошло, и реакцией системы. Edge-сервер стоит в той же локальной сети, что и камеры, поэтому детекция проходит несколько метров, а не несколько тысяч километров. Локальный инференс обычно укладывается в десятки миллисекунд; круговой путь до облачного GPU и обратно нередко занимает несколько сотен миллисекунд и под нагрузкой или на расстоянии растягивается к секунде и более (отраслевые измерения, 2026). Для аналитики, которая должна что-то запустить в физическом мире – пересечение периметра, которое должно включить отпугивание, шлагбаум, который должен опуститься, – эта разница и есть разница между «остановить событие» и «пересмотреть его». Диапазоны задержки и точности по уровням – в статье задержка и точность на каждом уровне.

Второе – резидентность данных, удержание видео и людей на нём внутри заданной границы. Здесь локальный сервер не просто быстрее, а порой единственно законный вариант. Видео опознаваемых людей – это персональные данные, а их биометрический анализ (лица, в части трактовок – номера) – особая, жёстко регулируемая категория. Выбор формируют три правила:

• Правила трансфера GDPR. Общий регламент ЕС по защите данных (Reg. (EU) 2016/679) не запрещает хранить данные за рубежом, но его глава V ограничивает отправку персональных данных за пределы Европейской экономической зоны без специального правового механизма. Обработка на сервере внутри здания полностью снимает вопрос трансграничной передачи – данные никуда не уходят (GDPR, глава V). Принципы минимизации данных и ограничения хранения того же регламента (ст. 5) поощряют решения, которые перемещают и хранят как можно меньше данных (GDPR ст. 5; EDPB Guidelines 3/2019 по видеоустройствам).
• EU AI Act. Биометрическая идентификация людей в реальном времени в публичных пространствах, за узкими исключениями для правоохраны, запрещена; анализ такой записи постфактум отнесён к «высокому риску» и жёстко регулируется. По Регламенту (EU) 2024/1689 запреты действуют с 2 февраля 2025 года, а обязанности для высокого риска – с 2 августа 2026 года. Там, где биометрическая задача вообще разрешена, держать её локально – значит сократить поверхность, которую надо регулировать (EU AI Act, Reg. (EU) 2024/1689).
• Биометрические законы США. В Иллинойсе закон BIPA (740 ILCS 14) ограничивает сбор биометрических идентификаторов вроде слепка лица и – что необычно – даёт человеку право подать в суд с фиксированными штрафами. Правовой барьер стоит перед технической возможностью, где бы модель ни работала (Illinois BIPA, 740 ILCS 14).

Ничто из этого не делает локальный сервер автоматически соответствующим – не делает. Но оно убирает с доски самую тяжёлую проблему: трансграничную передачу и стороннего обработчика. Для регулируемого видео фраза «данные не покидали здание» стоит очень многого.

Когда edge-сервер принимает или отдаёт метаданные аналитики, он говорит на том же стандарте, что и камеры: ONVIF Profile M описывает метаданные и события, которые производит аналитика, и соответствующий продукт может быть сервером или аплайансом, а не только камерой (ONVIF Profile M). Слой стандартов разбираем в статье события, метаданные и интерфейс аналитики ONVIF, а коммерческий обзор – в блоге профили ONVIF в системах безопасности.

Частая ошибка

Самый дорогой паттерн, который мы видим, – подбор сервера по ИИ-вычислениям с забытым потолком декодирования и резервированием. Покупатель читает «485 TOPS» и считает, что один GPU проглотит сотню камер, – а потом обнаруживает, что фиксированные видеодекодеры GPU забиваются на доле от этого, и что нужная ему тяжёлая модель (распознавание лиц, реидентификация) стоит в разы дороже на поток, чем лёгкий детектор, под который считалась плотность. Вторая половина ошибки – считать одну коробку всем планом: одиночный edge-сервер – единая точка отказа, и объект, теряющий всю аналитику при перезагрузке одной машины, был недопроектирован. Лечится это подсчётом в реальных единицах – потоках вашей модели в вашем разрешении, бюджет декодирования первым, инференс вторым, – запасом и планом на вторую коробку или путь резервирования до, а не после того, как первая забита. Планирование ёмкости для всего парка – отдельная тема в статье масштабирование VMS.

Где здесь Фора Софт

Фора Софт строит софт для real-time видео, стриминга и компьютерного зрения с 2005 года, более чем в 250 выпущенных проектах, и уровень edge-сервера – это место, где реально оседает много работы по видеонаблюдению. К нам приходят, когда бортовой модели камеры стало тесно, когда кросс-камерному трекингу или форензик-поиску нужна коробка, видящая весь объект, или когда правило резидентности означает, что видео просто не может уйти в облако. Мы проектируем локальный конвейер вокруг того, как он ведёт себя под реальной нагрузкой, – плотности потоков, которую вы действительно удержите на конкретном GPU, когда подставлена настоящая модель и разрешение; бюджета декодирования прежде бюджета инференса; пути резервирования, когда один сервер выпадает, – и ведём разговор с реальных precision и recall в вашей сцене, а не с демонстрационных «99%». Сервер, подобранный под модель, которую он действительно будет гонять, с запасом и второй коробкой в плане, бьёт сервер, подобранный под цифру TOPS из datasheet, которую ни одна реальная нагрузка не видит.

Главное

• Edge-сервер – это GPU-компьютер в вашей сети, гоняющий тяжёлую аналитику по многим камерам.
• Один массовый инференс-GPU несёт примерно 16–40 потоков лёгкого детектора в 1080p.
• Декодирование – первый потолок, раньше ИИ-вычислений: аппаратные декодеры забиваются быстро.
• Локально выигрывает, когда модель тяжёлая, данные должны остаться у вас или egress дороже сервера.
• Локальный инференс реагирует за десятки миллисекунд; круговой путь в облако – за сотни.
• Видео в здании снимает вопрос трансграничной передачи GDPR и сокращает поверхность комплаенса.

Что почитать дальше

• Аналитика на краю против облака: решение, которое определяет систему
• Облачная видеоаналитика: когда отправлять видео наверх и сколько это стоит
• Гибридный паттерн: делим работу между краем и облаком