Учитывается как ведённый текст, так и генерированный нейросетью ответ. Все символы разбираются на токены. Количество токенов — это способ измерения объема текста, с которым работает ChatGPT. Например, слово «ChatGPT» может быть представлено как несколько токенов.
Когда вы вводите текст, каждое слово или фраза разбиваются на токены. Чем больше текста или чем сложнее слова, тем больше токенов используется.