Blog
Praktické texty o stavbě konverzační AI, která opravdu běží v provozu - RAG, fine-tuning, mantinely, evaluace, orchestrace agentů a nasazení.
13. července 2026
Embeddingy, geocoding, re-indexování webu - to vše je drahé a předvídatelné. Když to děláte v requestu, platíte za to latencí na každý dotaz. Když to odsunete offline a na kritické cestě necháte jen levné indexované lookupy, odpověď držíte rychlou i na obří databázi. Princip: co se mění zřídka, se nepočítá za běhu.
Číst článek13. července 2026
Každý tool call je round-trip - vymyslet výsledek, vrátit ho, nechat model pokračovat. Když věci, které by normálně volaly nástroj (návrhy na pokračování, odkazy na entity, výzvy), necháte model emitovat přímo ve streamované odpovědi jako inline značky, odpověď se stane jedním průtokem. Latence na první token klesne, protože nic nepočítáte dopředu.
Číst článek13. července 2026
Tři sekundy na odpověď je budget, ne průměr. A budget prosvědčí spousta drobných úniků - fresh TLS handshake na každém embedu, restart agent loop po chybovém toolu, extra model-call poté, co uživatel dostal, co potřeboval. Žádný z nich sám o sobě nezmění číslo, ale dohromady rozhodnou, jestli se vejdeš do limitu.
Číst článek13. července 2026
Nejrychlejší token je ten, který se už nachystal. Poskytovatelé cachují prefix promptu - ale jen ten, co se nemění. Každá dynamická vsuvka na začátku zruší celý ten dar. Statický system prompt a per-turn injekce až za cachovatelným prefixem jsou nejlevnější výhra na latenci, jakou najdete.
Číst článek25. června 2026
Většina týmů bere evaluaci jako tabuli skóre - číslo, na které mrknete a je vám dobře nebo zle. Pokročilá myšlenka je zapojit eval zpátky do systému jako vstup, který ho přepisuje: trace jdou nezávislým rozhodčím, fixy se navrhují automaticky a jeden člověk schvaluje. Je to AI až na dno, s jedinou bránou, která jí není.
Číst článek24. června 2026
Než bot dobře odpoví, musí vědět, jakému druhu otázky čelí. Vynechte ten krok a chitchat dostane databázový dotaz, „minulý měsíc" se pošle do SQL nepřeložený a každý požadavek jede touž hloupou cestou. Náprava je levný, rozhodný první tah: klasifikuj záměr, vytáhni entity, vyřeš čas.
Číst článek23. června 2026
Vaše znalostní báze je obrovská a kontextové okno modelu maličké. Trik není ve větším okně - je to tvar přesýpacích hodin: všechno zkomprimujte předem a pak rozbalte jen to, co konkrétní otázka opravdu potřebuje.
Číst článek22. června 2026
Zkomprimovali jste znalosti do čistých indexů. Teď přichází okamžik, na kterém vše visí: dokáže bot pro danou otázku skutečně najít tu hrstku tabulek, kterou potřebuje, mezi tisícem? Minout tu pravou a nic dál vás nezachrání - takže ve fázi vyhledávání poráží recall přesnost.
Číst článek21. června 2026
Psát vrstvu asociací ručně je správné pro prvních dvanáct tabulek. Neškáluje to na tisíc - ani na nové klientské schéma každý měsíc. Řešením je nechat model navrhnout slovník ze skutečných dat a pak ho nechat člověkem zkurátorovat.
Číst článek20. června 2026
Uživatel se ptá na „zaměstnance". Vaše databáze jim říká H_OSOBA. Žádný model tu propast nepřeklene sám. Řešením je nejmocnější a nejméně okázalý artefakt celého systému: živý slovník, který mapuje lidskou řeč na vaše schéma.
Číst článek19. června 2026
Vrstva asociací naučí bota váš slovník - „zaměstnanec" znamená tahle tabulka. Některé otázky ale nejsou o slovech; jsou o vztazích a business konceptech, které žádná jednotlivá tabulka nevysloví. Tam končí plochý slovník a začíná znalostní graf.
Číst článek18. června 2026
Dejte agentovi naprostou volnost a odběhne a úkol rozbije. Zavřete ho do strnulých if-else a nezvládne nic skutečného. Produkční ideál je pevná pipeline s ostrůvky autonomie - koleje, ze kterých nemůže sjet, a skutečná rozhodnutí uvnitř nich.
Číst článek17. června 2026
Bot, který se neučí z provozu, je zamrzlý na kvalitě ze dne spuštění - a kvalita ze spuštění je to nejhorší, jaká kdy má být. Rozdíl mezi botem, který zestárne, a tím, který se každý týden ostří, je zpětnovazební smyčka, jež z každé interakce dělá signál.
Číst článek16. června 2026
Dotaz, který proběhne bez chyby, může být stejně špatně. Náprava není chytřejší model - je to smyčka: vygeneruj, osahej data, nech rozhodčího posoudit, jestli odpověď dává smysl, a vracej konkrétní selhání, dokud nedává.
Číst článek14. června 2026
Smyčka rozhodčího je o tom mít pravdu. Tohle je o předcházející otázce: co dělá bot, když si není jistý? Ti nejhorší se přesto hrnou kupředu a odpoví. Dobrý má repertoár - zeptat se, zvolit default, hedgeovat, nebo předat - a ví, po kterém tahu sáhnout.
Číst článek13. června 2026
Většina toho, co agent dělá, je triviální. Vyřešit kód, namatchovat hodnotu, vytáhnout entitu - nic z toho nepotřebuje váš nejdražší model. Odložte vyhledávání, nudnou práci pošlete levným rychlým modelům a génia si nechte na to, co je opravdu těžké.
Číst článek11. června 2026
Nejlepší zákazníci pro datového bota - nemocnice, banky - jsou ti, kteří legálně nesmějí pustit data z domu. Tohle omezení formuje všechno: kde běží model, co smí dotazovací vrstva dělat a jak dokážete, že se celek chová.
Číst článek