Чтобы обрабатывать запросы на стадии реальной эксплуатации, необходим пайплайн предсказаний. Одно из важных проектировочных решений — будут ли предсказания вырабатываться в пакетном или оперативном режиме.