Разработка приложений для знакомств, соцсетей и UGC – инженерный плейбук по ИИ

Кратко

Приложение для знакомств, соцсеть или UGC-платформа используют ИИ сразу в трёх местах – чтобы решать, кого и что показать (подбор и ранжирование), чтобы не пускать внутрь плохое (trust & safety) и чтобы улучшать живое и записанное видео (real-time и генеративные функции), – и именно среднее из них решает судьбу продукта. Trust & safety это не фильтр, который вы «включаете»: ни один классификатор не ловит всё, поэтому вы собираете воронку из сопоставления отпечатков уже известного запрещённого контента, ML-классификаторов для нового контента, жалоб пользователей и живых модераторов, и настраиваете строгость каждого слоя по тяжести вреда. Сквозь все решения проходят две границы: граница модерации (ИИ выдаёт оценку, но решение принимает многослойная система и человек) и граница платформы (как только вы храните чужой контент в масштабе или пускаете несовершеннолетних, вы становитесь регулируемой платформой с жёсткими обязанностями по EU Digital Services Act, UK Online Safety Act и US TAKE IT DOWN Act). Этот плейбук показывает нетехническому человеку, как оценить три системы, спроектировать воронку модерации, остаться по правильную сторону закона 2026 года и выбрать между покупкой готового moderation API, сборкой своего стека и обучением собственных моделей.

Почему это важно

Если вы основатель, продакт-менеджер или операционный руководитель, который оценивает приложение для знакомств, соцсеть или любой продукт, где пользователи постят фото, видео и стримы, вам скажут, что «ИИ» – это алгоритм подбора, а безопасность команда модерации добавит потом. Обе половины этой фразы неверны, и обе дорого стоят. Алгоритм подбора – простая и хорошо изученная часть; а компании штрафуют, удаляют из сторов и засуживают за систему безопасности – и в 2026 году эта система несёт обязанности, которых два года назад не было. Эта статья – понятная нетехническому человеку карта, которая нужна, чтобы оценить объём работ, поставить задачу инженерам, выбрать подрядчика и избежать двух ошибок, тихо убивающих такие продукты: выпустить один классификатор контента и слепо доверять его вердикту, и запуститься публично без машинерии модерации и отчётности, которой теперь требует закон.

Что на самом деле значит «ИИ в приложении для знакомств, соцсети или UGC»

Когда говорят «нам нужен ИИ в социальном приложении», обычно имеют в виду одну из трёх очень разных вещей, и первая задача любой серьёзной команды – выяснить какую, потому что они почти не делят ни код, ни кривую стоимости, ни профиль риска.

Первое – это подбор и ранжирование: софт, который решает, кого или что показать пользователю. В приложении для знакомств это очередь рекомендаций – кого вы увидите следующим. В ленте соцсети это порядок постов. На UGC-платформе это то, что попадает в выдачу. Под капотом это рекомендательная система: софт, который учит числовой отпечаток, называемый эмбеддингом, для каждого пользователя и каждого объекта, а затем находит объекты, чей отпечаток лучше всего совпадает с вашим. Это и есть тот самый «алгоритм», о котором все говорят, и он – самая зрелая и наименее рискованная из трёх систем.

Второе – это trust & safety: софт, который не пускает внутрь вредный контент и вредных людей. Это значит распознавать незаконные изображения и видео, наготу и насилие, разжигание ненависти и травлю, спам и мошенничество, фейковые профили и ботов, и – всё чаще – ИИ-подделки реальных людей. Это же значит проверять, что пользователь – настоящий, присутствующий здесь и сейчас человек заявленного возраста. Эта функция не делает демо, но решает, переживёт ли продукт встречу с реальными пользователями и реальными регуляторами. Здесь мы проведём большую часть статьи.

Третье – это real-time и генеративные медиа: софт, который улучшает видео и звук, которые пользователи отправляют и создают. Для видео-знакомств или live-соцсети это то же семейство функций камеры и микрофона, что и в конференцсвязи – размытие фона, бьюти- и AR-эффекты, шумоподавление, живые субтитры. Для авторов это помощь в монтаже и генеративный контент. Технически это богатая область, но хорошо протоптанная, и она напрямую заимствует из миров конференцсвязи и стриминга.

Нажмите, чтобы увеличить

Почему это различие важно в первый же день – из-за риска и денег. Подбор это зрелые облачные вычисления стоимостью в доли цента на пользователя, и риск тут в основном репутационный, не юридический. Real-time медиа работают на устройстве пользователя и почти ничего не стоят в эксплуатации. Trust & safety работает везде – на устройстве, в облаке и в комнате живых модераторов, – стоит реальную плату за элемент в масштабе и это единственная категория, где ошибка теперь является регулируемым нарушением. Считать «ИИ» одной функцией – первая и самая дорогая ошибка.

Две границы, которые определяют всю сборку

До любого кода сквозь каждое решение в социальном продукте проходят две границы. Большинство провалившихся или оштрафованных проектов пересекли одну из них, не заметив.

Первая – граница модерации. Классификатор контента не знает, вреден ли снимок; он выдаёт оценку – свою лучшую догадку, что снимок относится к категории вроде «нагота» или «насилие». Эта оценка обычно верна и иногда сильно ошибается, и, что важно, ни один единый порог не подходит для каждого вида вреда. Пересеките эту границу – примите оценку одной модели за окончательный вердикт – и вы выпустите систему, которая либо заваливает пользователей ложными обвинениями, либо пропускает реальный вред, а часто и то и другое сразу. Честный дизайн принимает, что модель это один голос в многослойном процессе, а не судья.

Вторая – граница платформы. Есть юридическая черта между ролью нейтральной трубы, которая просто переносит биты, и ролью платформы, которая хранит и рекомендует чужой контент. Вы пересекаете её не сменой технологии. Вы пересекаете её охватом и аудиторией: как только вашим сервисом пользуется достаточно людей, и особенно как только доступ получают несовершеннолетние, включается стопка обязательных требований – проактивно оценивать риски, быстро удалять незаконный контент, проверять возраст, сообщать о материалах с насилием над детьми и публиковать отчёты о прозрачности. Приложение, которое говорит «мы просто соединяем людей», не освобождено; закон смотрит на то, что делает ваш сервис и кто им пользуется, а не на то, как вы его описываете.

Нажмите, чтобы увеличить

Держите эти две границы в голове, потому что любая рекомендация ниже – это одна из них в маскировке: модель оценивает, решают система и человек (уважайте границу модерации) и охват и несовершеннолетние включают обязанности – проектируйте под них осознанно (уважайте границу платформы).

Где работает ИИ: облако, устройство или комната модераторов

Самое важное архитектурное решение – где исполняется каждый кусок ИИ, потому что место вычисления сразу определяет задержку, приватность, стоимость и юридический риск. Три группы функций тянут в разные стороны – так же, как в любом real-time видеопродукте. (Общую версию этого компромисса мы разбираем в гайде по задержке, топологии развёртывания и real-time против batch.)

Подбор и ранжирование хотят работать в облаке. Решение, кого показать следующим, не критично к миллисекундам – пары сотен миллисекунд достаточно, – а модели, которые делают это хорошо, слишком велики и прожорливы для телефона. Работа естественно делится на два этапа: быстрый этап поиска (retrieval), который сужает миллионы кандидатов до нескольких сотен по отпечаткам-эмбеддингам, и более тяжёлый этап ранжирования (ranking), который упорядочивает эти сотни по предсказанной вовлечённости. Оба живут на серверах, рядом с данными.

Trust & safety работает везде, и в этом суть. Сопоставление отпечатков уже известного запрещённого контента и проактивные ML-классификаторы работают в облаке на момент загрузки, где они могут быть тяжёлыми и точными. Часть проверок – фильтр наготы в живом видео-звонке знакомств или захват верификационного селфи – работает на устройстве ради скорости и приватности. А самые сложные случаи решаются в комнате модераторов, потому что некоторые суждения всё ещё требуют человека. Система безопасности, существующая лишь в одном из этих мест, неполна.

Real-time медиа хотят работать на устройстве. Размытие фона, бьюти-эффекты и шумоподавление в живом видео-звонке – это real-time видео, и гонять каждый кадр на сервер добавляет задержку, которую пользователь чувствует как лаг, а вдобавок выгружает интимное видео с устройства. Современные модели для этого построены именно под работу на телефоне, поэтому эта работа живёт на краю (edge). (Наш инженерный плейбук по ИИ в видеоконференцсвязи разбирает эти живые функции подробно.)

Нажмите, чтобы увеличить

Поэтому дефолт 2026 года – гибрид, с одной оговоркой, специфичной для социальных продуктов: комната модераторов – не довесок, а часть архитектуры. Закладывайте её в бюджет, нанимайте людей и стройте для них инструменты с самого начала, потому что закон теперь предполагает, что она есть.

Сложная часть: модерация это воронка, а не фильтр

Вот система, которая решает, выживет ли продукт, и её чаще всего недостраивают. Инстинкт рисует фильтр: контент входит, модель говорит «да» или «нет», чистый контент выходит. Настоящий trust & safety выглядит совсем иначе. Это воронка из нескольких слоёв, где каждый ловит то, что пропустил предыдущий, потому что ни один метод не ловит всё.

Первый слой ловит уже известный запрещённый контент, и он вообще не использует гадающую модель. Он использует сопоставление отпечатков: каждое изображение и видео сводится к короткому устойчивому коду – перцептивному хешу, – который переживает изменение размера и лёгкое редактирование, и этот код сверяется с базами отпечатков контента, уже подтверждённого как незаконный. Microsoft PhotoDNA и Meta PDQ – стандартные отпечатки для изображений; сервис Safer от Thorn сообщает, что только за 2025 год обнаружил почти 1,5 млн изображений и видео с известными материалами сексуального насилия над детьми, сверяя их с базой, выросшей до 6,3 млн хешей изображений и 64 млн хешей видео. Сопоставление отпечатков быстрое, дешёвое и почти точное, поэтому по его срабатываниям можно действовать автоматически – заблокировать загрузку, сохранить доказательства и подать отчёт.

Второй слой ловит новый вредный контент, отпечатка которого ещё нет, и здесь живут ML-классификаторы – модели, которые оценивают изображение, кадр видео или фрагмент текста по категориям вроде наготы, насилия, ненависти, селфхарма или оружия. Эти модели хороши, но никогда не идеальны, и именно поэтому у воронки есть слои ниже. Классификатор – это датчик дыма, а не судья: он настроен быть чувствительным и передаёт свои тревоги следующему слою, а не выносит окончательный приговор.

Третий слой – жалобы пользователей, самый дешёвый и часто самый точный сигнал, потому что люди узнают контекст – сарказм, груминг, скоординированную травлю, – который модели упускают. Четвёртый слой – живая модерация: обученные люди, которые смотрят на то, что отметили верхние слои, и выносят решение, которое модель не смогла. И пятый слой – апелляции – позволяет ошибочно наказанному пользователю оспорить решение, что в Евросоюзе уже не вежливость, а требование закона.

Нажмите, чтобы увеличить

«Ловушка – выпустить один классификатор и доверять его вердикту. Самый частый провал в социальных продуктах – подключить одну модель модерации к автоматическому «бан или пропуск» и считать дело сделанным. Тогда случаются две вещи. Невинных пользователей автоматически банят, потому что модель ошиблась на пляжном фото или снимке кормления грудью, и у них нет способа подать апелляцию – что в ЕС само по себе нарушение. А реальный вред проходит, потому что модель никогда не видела именно эту атаку. Лечение – не лучшая одиночная модель, а воронка: отпечатки для известного, классификаторы для нового, жалобы и люди для суждения, и порог, настроенный под тяжесть каждого вида вреда.»

Настройка по тяжести – это то, что отличает реальную систему от демо. Вы не используете одну строгость на всё. Для материалов сексуального насилия над детьми политика – почти нулевая терпимость: максимизируйте шанс поймать, примите больше ложных тревог, авто-блокируйте по совпадению отпечатка и сообщайте о нём – потому что в США провайдеры юридически обязаны сообщать о найденных материалах в Национальный центр пропавших и эксплуатируемых детей (NCMEC). Для спама можно действовать мягче, потому что цена пропущенного спам-сообщения куда ниже цены пропущенного снимка насилия. Та же архитектура, настроенная по-разному под каждый вред, – и есть всё ремесло.

Разобранный пример: бюджет сэмплирования живого видео

Живое видео – это место, где воронка упирается в жёсткую стену стоимости, и арифметика проста настолько, что её можно посчитать на салфетке – именно поэтому каждой команде стоит сделать это до обещаний «мы модерируем каждый стрим».

Живое видео идёт со скоростью 30 кадров в секунду. Один его час – это поэтому большое число изображений:

60 мин × 60 с × 30 кадров = 108 000 кадров в час

Теперь предположим, что вы модерируете каждый кадр облачным image API по типичной ставке $1,00 за 1 000 изображений:

108 000 кадров ÷ 1 000 × $1,00 = $108,00 в час, на один стрим

Сто восемь долларов в час за один стрим – абсурд в тот момент, когда у вас тысяча одновременных стримов. Поэтому никто не модерирует каждый кадр. Вместо этого вы сэмплируете – проверяете один кадр каждые пару секунд:

3 600 с ÷ 2 с = 1 800 кадров в час
1 800 кадров ÷ 1 000 × $1,00 = $1,80 в час, на один стрим

Это в шестьдесят раз дешевле, и именно поэтому сэмплирование кадров – стандартный дизайн для модерации live. Цена сэмплирования – осознанный компромисс: появившееся нарушение может идти примерно до двух секунд, прежде чем сэмплированный кадр его поймает. Для большинства политик это приемлемо в паре с живой проверкой – частое правило это сэмплировать раз в одну-две минуты и стремиться остановить нарушающий стрим в пределах трёх минут. Для фильтра наготы в звонке знакомств один-на-один вы сэмплируете гораздо чаще. Суть в том, что «мы модерируем живое видео» – это никогда не «да/нет», а частота сэмплирования, которую вы выбираете против стоимости и обещанного SLA. Современные системы доводят само обнаружение до двух-пяти секунд, прогоняя сэмплированные кадры и транскрипт звука через классификаторы параллельно.

Та же арифметика базовой ставки управляет комнатой модераторов. Представьте миллион загрузок в день, из которых малая доля – скажем, полпроцента, или 5 000 – действительно нарушают политику. Классификатор с полнотой (recall) 90% ловит 4 500 из них и пропускает 500, и именно поэтому вам всё ещё нужны жалобы и повторные проверки. Если этот классификатор отмечает с точностью (precision) 95%, то на каждые 4 500 верных срабатываний он отмечает ещё около 237 невинных элементов, и все они – примерно 4 737 в день – попадают к живым модераторам. При десяти секундах на проверку это больше тринадцати часов работы, почти две полные смены модератора, ради одной этой категории вреда. Это число и объясняет, почему однозначный слой обрабатывают автоматически, пороги настраивают под вред, а живую модерацию считают постоянной статьёй расходов, а не сюрпризом.

Граница платформы: когда приложение становится регулируемой платформой

Этот раздел стоит прочитать дважды, потому что здесь маркетинговое решение тихо создаёт юридический риск, под которым инженерия не подписывалась. В 2026 году важнее всего три режима, а четвёртый на подходе.

В Евросоюзе Digital Services Act (DSA) управляет любым сервисом, который хранит и распространяет пользовательский контент. Он требует рабочей системы уведомления и реагирования, чтобы любой мог пожаловаться на незаконный контент, обоснования (statement of reasons) каждый раз, когда вы что-то удаляете или блокируете аккаунт, процесса апелляции для несогласных пользователей и – для крупнейших платформ – ежегодных оценок рисков и отчётов о прозрачности. Отчёты теперь стандартизированы: с первого гармонизированного периода платформы публикуют машиночитаемые цифры о том, сколько контента удалили и насколько точны их автоматические системы. Штраф за несоответствие – до 6% мирового годового оборота, и правоприменение перестало быть теорией: Еврокомиссия выписала штраф в €200 млн маркетплейсу Temu, а вторая волна правоприменения в 2026 году распространяет обязанности на куда более широкий круг компаний, чем гиганты.

В Великобритании Online Safety Act (OSA) требует от сервисов, к которым вероятно имеют доступ дети, проводить «высокоэффективные» проверки возраста и проактивно бороться с незаконным контентом. Регулятор Ofcom применяет закон: к началу 2026 года он открыл расследования по более чем девяноста сервисам и выписал штрафы, включая £800 000 одной платформе за отсутствие проверок возраста. Среди заявленных приоритетов – защита детей и защита женщин и девочек от злоупотребления интимными изображениями, прямой сигнал продуктам знакомств и соцсетям.

В США TAKE IT DOWN Act, подписанный в мае 2025 года, делает федеральным преступлением публикацию интимных изображений без согласия, включая ИИ-дипфейки опознаваемых реальных людей. Для платформ ключевая обязанность – таймер уведомления и удаления: получив корректный запрос от жертвы, вы должны удалить контент – и приложить добросовестные усилия удалить его копии – в течение 48 часов. Федеральная торговая комиссия (FTC) начала применять это требование в мае 2026 года, поэтому любому продукту, хранящему пользовательские изображения, нужен рабочий и укомплектованный процесс удаления, а не план.

Четвёртый режим – статья 50 EU AI Act, которая полностью вступает в силу в августе 2026 года и требует, чтобы любая система, производящая синтетические изображения, видео или звук, помечала эти выходы машиночитаемым способом. Если у вашего продукта есть генеративная функция или он просто позволяет постить ИИ-контент, это касается вас. Всю регуляторную машину мы разбираем в статье про регуляторный инжиниринг, а сторону раскрытия и происхождения – в гайде по C2PA и раскрытию ИИ.

Ещё одну границу стоит отметить, потому что она движется: предложенный в ЕС регламент по CSAM, прозванный «Chat Control», требовал бы от мессенджеров сканировать личные сообщения на материалы насилия над детьми. Добровольная версия, позволявшая платформам сканировать, истекла в 2026 году, а план обязательного сканирования убрали из рабочего черновика, при этом переговоры продолжаются, а временные правила продлили. Считайте это нерешённым и наблюдайте, а не стройте под версию, которая может не выжить.

Проверить настоящего человека: возраст, liveness и дипфейки

Две самые сложные задачи 2026 года стоят у входной двери: доказать, что пользователь заявленного возраста, и доказать, что он реальный, присутствующий человек, а не украденное фото или ИИ-подделка.

Подтверждение возраста (age assurance) превратилось из галочки в измеримую способность. UK Online Safety Act требует проверок «высокоэффективных», что исключает старую кнопку «нажмите, чтобы подтвердить, что вам 18». Два рабочих подхода – это проверка документа и оценка возраста по лицу (facial age estimation): модель оценивает возраст по селфи, не опознавая человека. Независимых бенчмарков достаточно, чтобы на них опереться: ведущие системы оценки возраста по лицу верно относят подавляющее большинство подростков к категории «младше 21» со средней ошибкой чуть больше года для молодых взрослых, а лучшие реализации обрабатывают изображение и сразу удаляют его, а не хранят лицо. Инженерный выбор – оценивать сначала, дёшево и приватно, и переходить к проверке документа только для неоднозначной полосы у самого порога.

Liveness и идентичность – передний край приложений знакомств, и индустрия двинулась быстро. В конце 2025 года Match Group сделала Face Check обязательной для новых пользователей Tinder в растущем списке рынков: пользователь записывает короткое видео-селфи, и система проверяет две вещи – что лицо принадлежит живому человеку, присутствующему в этот момент, а не статичному фото или записи, и что оно совпадает с фотографиями профиля. Цель – остановить аккаунты на украденных или ИИ-сгенерированных лицах. Match Group сообщила, что на рынках, уже использующих функцию, число жалоб на «плохих акторов» упало на 40%, и заявила, что распространит проверку на другие свои приложения в течение 2026 года. Инженерию распознавания лиц и биометрии за этим, и правила согласия, которые её связывают, мы разбираем в статье про распознавание лиц и EU AI Act – биометрические данные относятся к особой категории, поэтому liveness-проверки требуют явного согласия и аккуратного обращения.

Более глубокая угроза – дипфейки и ИИ-сгенерированные профили, и это теперь измеримый вред, а не гипотеза. Романтические мошенничества стоили потребителям США $1,16 млрд только за первые девять месяцев 2025 года, а долгие инвестиционные аферы «pig butchering», которые часто начинаются в приложениях знакомств, по оценкам выкачали из американцев около $10 млрд за год. ИИ – усилитель: одна операция может вести сотни фейковых профилей через чат-ботов, неделями ведущих естественные разговоры, а опрос 2025 года показал, что меньше половины пользователей знакомств могут отличить реальное фото профиля от ИИ-сгенерированного. Защита от этого – смесь liveness-проверки выше, поведенческих сигналов (профиль, пишущий тысяче человек за час, – не человек) и происхождения контента.

Последний кусок – происхождение – стоит понять, потому что его широко неверно толкуют. Стандарт C2PA Content Credentials прикрепляет к медиафайлу подписанную запись о том, кто его сделал, каким инструментом и какие правки внесены. К началу 2026 года к нему присоединились более шести тысяч организаций, включая Google, Meta, OpenAI и крупных производителей камер. Но C2PA не обнаруживает дипфейк; он лишь доказывает происхождение, когда метка присутствует, а у большинства ИИ-изображений, приходящих на платформу, метки нет вовсе, потому что загрузка часто её срезает. Происхождение – полезный сигнал в многослойной защите, а не детектор дипфейков, и считать его детектором – это своя версия ошибки границы модерации.

Три способа собрать стек безопасности

Когда вы знаете, какие виды вреда обязаны ловить и где работают проверки, есть три способа собрать машинерию trust & safety. Они меняют скорость поставки на контроль – ровно как в конференцсвязи или видеонаблюдении.

Первый путь – купить moderation API. Вендоры вроде Hive, Amazon Rekognition, Microsoft Azure AI Content Safety и Sightengine отдают распознавание наготы, насилия, ненависти, наркотиков, оружия и селфхарма за простым вызовом, часто с поддержкой живого видео. Сканирование контента можно запустить за дни. Компромисс – вы принимаете категории и точность вендора и платите за элемент: Rekognition, например, оценивает модерацию изображений примерно в $1,00 за 1 000 снимков и видео примерно в $0,10 за минуту, а Sightengine стартует около $29 в месяц за десять тысяч операций. Важно: общие moderation API не занимаются сопоставлением материалов насилия над детьми – для этого нужен специалист.

Второй путь – собрать свой стек поверх открытых моделей и общих баз: свои классификаторы или открытые vision-language модели для общих категорий, сопоставление перцептивных хешей с PhotoDNA и PDQ для слоя известного запрещённого, специализированный сервис вроде Safer от Thorn для детекции детской безопасности и отчётности в NCMEC, и поверх – свой движок политик и инструменты для живой модерации. Это занимает недели-месяцы и означает, что вы владеете логикой политик, порогами и потоком данных. Это правильный выбор, когда у вас достаточно масштаба, чтобы поэлементная плата API била по карману, или когда ваши виды вреда специфичны для вашего сообщества.

Третий путь – построить и обучить свои модели для вреда, который готовые системы ловят плохо: специфичная для вашей платформы форма травли, политика конкретного сообщества, язык, который вендоры покрывают слабо. Это месяцы работы и окупается, только когда trust & safety и есть продукт или ключевое отличие. Для большинства команд это преждевременно; вопрос, когда общая vision-language модель обыгрывает кастомный классификатор, – тема нашей статьи про VLM против кастомного CV.

Нажмите, чтобы увеличить

Сравнение делает компромисс наглядным:

Для большинства команд, оценивающих первую публичную версию, честный путь такой: купить общий moderation API для запуска, добавить специализированный сервис детской безопасности с первого дня независимо от пути (это не вопрос масштаба, а обязательное условие) и собирать больше стека по мере роста объёма и сложности политик.

Где на самом деле место алгоритму подбора

Стоит ненадолго вернуться к части, которую все считают всей работой, потому что её верная оценка освобождает бюджет на ту часть, которая всей работой не является. Подбор и ранжирование – решённая форма: модель из двух башен (two-tower), которая учит эмбеддинги пользователей и объектов, поиск приближённых ближайших соседей, вытягивающий сотни кандидатов из миллионов за миллисекунды, и модель ранжирования, упорядочивающая их по предсказанной вовлечённости. Открытые рекомендательные системы крупных платформ все следуют этому шаблону, и грамотная команда поднимет достойную версию, ничего не изобретая.

Ошибка тут не техническая, а редакторская: вливать ИИ-бюджет в выжимание ещё процента вовлечённости из ранкера, пока воронка безопасности и входная дверь верификации недостроены. В приложении для знакомств, соцсети или UGC модель ранжирования определяет, насколько хорош продукт на ощупь; а система безопасности определяет, имеет ли продукт право существовать. Тратьте соответственно.

Сколько на самом деле стоит построить приложение для знакомств или соцсеть

Бюджеты зависят от объёма, но рыночные ориентиры 2026 года помогают плановым разговорам. Минимально жизнеспособный продукт – профили, подбор или лента, сообщения, базовые жалобы – обычно укладывается в нижние десятки тысяч долларов для одной платформы. Конкурентное приложение с живым видео, настроенной рекомендательной системой, верификацией личности и нормальным стеком модерации идёт от примерно $80 000 в несколько сотен тысяч, в зависимости от того, сколько стека безопасности вы строите против покупаете. Спрос подтверждает, что это рынок покупателя: один лишь запрос «dating app development company» собирает порядка тысячи поисков в месяц в США при низкой конкуренции – поэтому за него и борется столько агентств.

Две статьи расходов регулярно недооценивают. Первая – модерация как операционная стоимость, а не стоимость сборки: каждое изображение и каждая минута видео несут поэлементную плату за инференс, если вы покупаете, плюс постоянная зарплатная стоимость комнаты модераторов, и обе растут с успехом, а не сжимаются. Вторая – инженерия соответствия: система уведомления-реагирования, генератор обоснований, поток апелляций, интеграция проверки возраста и конвейер отчётности о прозрачности – это реальные функции с реальными сроками, и в 2026 году они не опциональны для публичного запуска в ЕС или Великобритании. План, который заносит их как «юристы разберутся потом», неверно оценил сборку.

Где здесь Фора Софт

Фора Софт строит видеософт с 2005 года – в видеоконференцсвязи, стриминге и OTT, e-learning, телемедицине и компьютерном зрении для видеонаблюдения, – и продукт для знакомств, соцсеть или UGC заимствует у всех них. Живое и один-на-один видео – та же real-time WebRTC-работа, что мы делаем для конференцсвязи; доставка пользовательского видео – та же работа стриминга и OTT; а воронка модерации – та же инженерия детекции компьютерного зрения, что мы применяем в видеонаблюдении, где правило всегда было такое: модель отмечает, а человек проверяет. Дисциплина обращения с чувствительными персональными данными при явном согласии и аккуратном хранении – та же, которой мы держимся в телемедицине. Этот межотраслевой опыт и не даёт социальной сборке относиться к безопасности как к функции, прикрученной в конце, вместо многослойной системы, которой она обязана быть с первого дня.

Главные выводы

• ИИ в социальном приложении – это три системы: подбор, trust & safety и real-time медиа.
• Trust & safety – это воронка, а не фильтр: отпечатки, классификаторы, жалобы, люди.
• Единый порог классификатора не подходит под каждый вред; стройте строгость по тяжести.
• Обязанности по DSA, OSA и TAKE IT DOWN включают охват и несовершеннолетние, а не технология.
• Модерируйте живое видео сэмплированием: каждый кадр стоит ~в 60 раз дороже, чем раз в две секунды.
• Купите moderation API для запуска, но добавьте специалиста по детской безопасности с первого дня.

Что почитать дальше

• Модерация контента в реальном времени в SFU
• ИИ-видеонаблюдение и интеллектуальная видеоаналитика – инженерный плейбук
• Регуляторный инжиниринг – EU AI Act, статья 50 и биометрия