Итоговая формула экономичного агентства:
— Маршрутизация: Простые задачи — дешевым моделям.
— Кэширование: Повторяющиеся вопросы — бесплатному кэшу.
— Гигиена контекста: Не пихать в промпт лишнего, сжимать историю, фильтровать документы.
Агенты среди нас. Как нанять нейросеть на работу и не уволиться самому
·
Евгений Волков