Řízená autonomie: Postavte agentovi vodítko, ne klec

Existují dva způsoby, jak postavit agenta, a oba selhávají.

První je klec. Napíšete to celé jako větvící logiku — dlouhý switch, houští if-else — která dopředu naskriptuje každý krok. Je to předvídatelné, což působí bezpečně. A zároveň je to neudržitelné ve chvíli, kdy problém začne být skutečný: každá nová schopnost znamená operaci na monolitu, který nikdo celý nepřečte, a agent umí vždy jen přesně to, co jste předvídali. Cokoli jste nepředvídali, nezvládne.

Druhý je naprostá volnost. Předáte modelu cíl a hromadu nástrojů a řeknete „vyřeš to". Občas je to kouzlo. Často bloudí — honí slepou uličku, znovu odvozuje něco, co už věděl, udělá sebevědomě špatnou odbočku tři kroky hluboko — a protože ho nic neomezuje, jediné špatné rozhodnutí může shodit celý běh. Působivé v demu, děsivé v produkci.

Vzorec, který se skutečně nasazuje, žije mezi nimi. Říkáme mu řízená autonomie a metafora, ke které se pořád vracíme, je pes na vodítku. Pes může čmuchat, kde chce — v daném okamžiku má skutečnou volnost. Ale nemůže vyběhnout do silnice, protože vodítko definuje prostor. Dostanete průzkum bez katastrofy.

Pevná pipeline s prostorem na přemýšlení uvnitř

Konkrétně řízená autonomie znamená dvě věci držené v napětí.

Koleje jsou pevné. Celkový tvar procesu určujete vy, předem, a agent se od něj nesmí odchýlit. Databázový agent se například vždy pohybuje po téže páteři: pochop požadavek, najdi relevantní datové objekty, sestav jejich kontext, vygeneruj dotaz, spusť ho a předlož výsledek. Tohle pořadí není agentovi k znovuvyjednání. Vy víte, jak proces vypadá, takže ho zakódujete — a agent neztrácí čas (ani neriskuje celý úkol) vymýšlením workflow, kterému už rozumíte.

Ostrůvky jsou autonomní. Uvnitř každé fáze dělá agent skutečná rozhodnutí. Kolik tabulek je tu vlastně relevantních? Je tenhle výsledek dost podezřelý na to, abych to zkusil znovu? Mám dost na odpověď, nebo si mám dotáhnout ještě jeden vzorek? Mám se vrátit o krok zpět, protože důkazy říkají, že jsem se spletl? To jsou opravdové úsudkové volby — a právě tady chcete utratit inteligenci modelu: ne na vymýšlení pipeline, ale na proplouvání skrz ni.

Umění je dobře zvolit hranici. Příliš mnoho kolejí a jste zpátky v kleci. Příliš málo a jste zpátky v lese. Trefte to a máte systém, který je rychlý (nepřemýšlí o vlastní struktuře každý běh), bezpečný (špatná volba je uzavřena do jedné fáze) a flexibilní (přizpůsobí se tam, kde na přizpůsobení opravdu záleží).

Čistý způsob, jak postavit koleje

Klec selhává zčásti kvůli tomu, jak se obvykle kóduje: jedna obří řídicí struktura, které přibývá nová větev pokaždé, když se agent naučí trik. Náprava je malá, stará myšlenka — konečný automat — a stojí za to ji znát, protože právě ona dělá řízenou autonomii udržitelnou.

Místo jednoho rozlézajícího se switche definujete sadu pojmenovaných stavů — SplitInput, ResolveObjects, GenerateQuery, Execute, Respond — a každému dáte handler: malou, soběstačnou funkci, která odvede svou práci a vrátí následující stav. Slovník mapuje každý stav na jeho handler. Engine, který to celé pohání, je až trapně jednoduchý:

Začni v prvním stavu. Najdi jeho handler, spusť ho, vezmi následující stav, který vrátí. Opakuj, dokud nepřistaneš ve stavu označeném jako terminální. To je celá řídicí smyčka.

Odměnou je všechno, co kleci chybělo:

• Je to testovatelné. Každý handler je funkce s jasným vstupem a jasným výstupem. „Pro tento kontext vrátí ResolveObjects stav GenerateQuery" otestujete izolovaně, bez nutnosti rozjíždět celého agenta.
• Je to rozšiřitelné. Nová schopnost je nový stav: přidej ho do výčtu, napiš jeden handler, přidej jeden záznam do slovníku. Hlavní smyčky se nikdy nedotkneš. To, co dělalo klec děsivou na změnu, se stává přidáním v jednom souboru.
• Je to čitelné. Kdokoli si přečte seznam stavů a přechody mezi nimi a pochopí, co agent dělá. Logika není rozmazaná přes tisíc řádků — je to mapa.

Tady taky žije autonomie, aniž by dělala nepořádek. Handler smí zavolat model, odštěpit dílčí úkol, zkusit to znovu nebo se rozhodnout poslat tok zpátky — Execute může vrátit GenerateQuery, když výsledek vypadá špatně, a vytvořit tak samoopravnou smyčku. Volnost je skutečná, ale je vyjádřena jako přechody mezi dobře definovanými stavy, ne jako neomezené bloudění.

Když se z přímky stane graf

Jednoduchý automat je přímka: jeden stav po druhém, pochod vpřed (s občasným návratem ve smyčce). Skutečná práce ale není vždy přímka. Otázka jako „porovnej počet lidí v Praze a Brně" se přirozeně dělí na dvě nezávislé podotázky, které nemají důvod na sebe čekat.

Model se proto zobecní. Ve chvíli, kdy váš agent spustí několik stavů souběžně — odštěpí se do paralelních dílčích úkolů a později sloučí jejich výsledky — přestal být, přísně vzato, jednoduchým automatem a stal se něčím bohatším: grafem úkolů s větvemi, které běží paralelně, a synchronizačními body, kde se zase sbíhají. Nezávislé větve běží naráz; join čeká na všechny, než tok pokračuje.

Teorie pro to má přesná jména — souběžné automaty jsou formálně Petriho sítě, ta struktura je orientovaný acyklický graf — ale tady je praktická rada cennější než slovník: když to vysvětlujete klientovi, říkejte tomu „agentická orchestrace". Lidé mají intuici pro agenta, který deleguje a paralelizuje. Přednášku o Petriho sítích nechce skoro nikdo. Přesné termíny použijte v návrhové dokumentaci; ty čitelné v jednací místnosti.

Proč je ta pevná část tou cennou

Snadno si pomyslíte, že autonomie je ten chytrý kousek a pipeline je jen lešení. Je to naopak. Pevná pipeline je místo, kde je uložena vaše draze nabytá znalost procesu — každé „naučili jsme se vždy zkontrolovat číselník dřív, než vygenerujeme dotaz" je zapečeno do pořadí stavů. To je aktivum. Je to rozdíl mezi agentem, který těží ze všeho, na co váš tým přišel, a tím, který to musí znovu objevovat, draze a nespolehlivě, při každém jednotlivém požadavku.

Autonomie je to, co agentovi umožní zvládnout případy, které jste nenaskriptovali. Pipeline je to, co té autonomii brání stát se chaosem. Postavte koleje záměrně, umístěte autonomní ostrůvky tam, kde se úsudek opravdu vyplatí, a držte to celé jako čistý automat, který umíte testovat a rozšiřovat. To není kompromis mezi kontrolou a inteligencí. To je způsob, jak získat obojí.

---

Perete se s agentem, který je buď příliš strnulý na to, aby byl užitečný, nebo příliš volný na to, aby se mu dalo věřit? Navrhnout správnou pipeline — a správné ostrůvky autonomie uvnitř ní — je první věc, kterou na projektu děláme. Pojďme zmapovat tu vaši.