У GPT-4, в зависимости от версии, контекст может быть:
• 8192 токенов (≈ 5000 слов)
или
• 32 000 токенов (в премиум-режиме, ≈ 25 000 слов).
Когда этот лимит превышен, ChatGPT начинает «забывать» начало диалога. То есть он не помнит вечность. Он помнит последние 10–50 экранов текста.
Нейросети для пишущих. Как подружиться с искусственным интеллектом
·
Мария Райдер
