Что происходит с LLM‑пайплайном, если провайдер падает посреди выполнения

Что делать, если посреди многоэтапного ИИ‑пайплайна кредитного скоринга у Anthropic или OpenAI ложится API? Обычные сетевые гейтвеи (вроде LiteLLM) умеют делать автоматический retry отдельного HTTP‑запроса, но они абсолютно слепы к контексту и не знают, на каком шаге бизнес‑логики находится ваш агент. В этой статье мы разберем, как спроектировать по‑настоящему отказоустойчивый LLM‑конвейер, используя концепцию конечных автоматов (FSM) и легковесный детерминированный движок llm-nano-vm. Читать далее