Термин
Self-hosting
Англ.: self-hosted, on-prem
Короткое определение
Запуск моделей с открытыми весами на своей инфраструктуре вместо вызова API вендора. Обмен эксплуатационной работы на приватность, контроль и меньшую предельную цену.
Self-hosting означает, что вы сами разворачиваете и эксплуатируете модель – свои серверы или облако, свои GPU. Это держит данные внутри, убирает плату за вызов на масштабе и избегает вендор-лока, но забота об аптайме, масштабировании и обновлениях ваша.
Считаете параметры для своего продукта?
Поможем собрать энкодер-леддер и посчитать стоимость доставки – до старта разработки.