Термин
Токен
Англ.: токены, токенизация
Короткое определение
Маленький фрагмент текста (или участок изображения), который модель читает и пишет. Цена API считается за токены, поэтому токен – единица стоимости ИИ.
Токен – это примерно несколько символов текста или фиксированный кусочек изображения. Модели обрабатывают вход и выдают выход токен за токеном, а провайдеры берут плату за тысячу токенов. Оценка числа токенов на запрос – это и есть прогноз месячной стоимости функции.
Считаете параметры для своего продукта?
Поможем собрать энкодер-леддер и посчитать стоимость доставки – до старта разработки.