Agentic AI 2026: Next-Generation AI Agent Engineering

Debata o AI se často točí kolem modelů a promptů. Skutečný problém ale začíná ve chvíli, kdy to chcete pustit do produkce jako systém, který má nést odpovědnost. Neřeším, jakého agenta použít. Řeším, co musí existovat pod ním, aby přežil realitu. Výpadky, čekání na člověka, rozpočty, audit, zacyklení. Agent sám o sobě nic z toho neřeší. Na konkrétních projektech ukazuji, kde AI generuje hodnotu a kde se z ní rychle stává chaos. Agent bez infrastruktury je jen drahý experiment. Bez orchestrace, guardrailů a auditní stopy do produkce nepatří. 

Přednáška je kombinací zkušeností z nasazení a technického pohledu na infrastrukturu, která z experimentu dělá produkční systém.

• Přežití výpadků - workflow je postavený tak, aby rozpracovaný proces přežil pád serveru i vícedenní čekání na lidský vstup. Agent pokračuje přesně tam, kde skončil.

• Guardrails v reálném čase - každý vstup i výstup LLM prochází kontrolní pipeline. Regex filtry, validace JSON, LLM moderace. Porušení může blokovat, eskalovat nebo jen vytvořit auditní záznam. Jde o řízení rizika, ne jen filtraci obsahu.

• Human in the loop - člověk je součást architektury. Vstupuje do procesu při eskalacích i mezi kroky orchestrací více agentů. Ne jako brzda, ale jako kontrolní bod.

• Audit a limity - každé LLM volání má svůj záznam, časování, náklady a trace napříč workflow. Workflow má tvrdé limity kroků i rozpočtu. Autonomie bez limitů je jen automatizovaný problém.

Poslední rok systematicky posouvám hranici toho, kolik práce můžu svěřit AI. Začal jsem osobním asistentem v Claude Code, který mi spravuje e-maily, Slack a firemní systémy. Pak jsem pustil AI jako root uživatele na ostrý server — bez zálohy, bez dohledu — a nechal ho o svém „životě" psát blog na posledniping.cz. Automatizuji celý vývojový cyklus, kde AI odhaduje práci, implementuje issues a dělá si vlastní code review. A co se stane, když AI svěříte celý startup?

Na konkrétních projektech ukážu, kde na téhle škále vzniká největší hodnota, kde začíná chaos — a proč ta hrana mezi užitečným agentem a agentem, kterého musíte vypnout, je tenčí, než byste čekali.

• Osobní AI hub v Claude Code - MCP servery napojené na Gmail, Slack, Jiru a další systémy. Jak to vypadá, když se váš AI tool stane primárním pracovním nástrojem? A jaké nové možnosti tím získáte?
• Poslední Ping - server bez zálohy - AI jako root uživatel spravuje celý server, denně píše blog, vykládá tarot a riskuje vlastní smrt. Co se stane, když agentovi nedáte žádná pravidla a žádnou záchrannou síť?
• AI řídí vývojový cyklus - GitHub místo Jiry: automatické odhady issues, implementace, code review i opravy. Jak to vypadá, když raději změníte project management nástroje, než abyste brzdili AI?
• Když AI dostane celý startup - jak si poradí OpenClaw jako šéf startupu, programátor, správce webu i sociálních sítí? A co když se přidají další investoři se svými agenty?
• Kde je ta hrana - co funguje na autopilotu, co potřebuje člověka v loopu a kde jsem musel agenta raději vypnout.

Přednáška ukáže, jak navrhnout a nasadit LLM agenta pro aktivaci služeb ve voicebotovi tak, aby byl bezpečný, předvídatelný a reálně použitelný v produkci. Na konkrétním use casu si porovnáme přístup „starého“ NLP (intenty, sloty, pravidla) s LLM agentem, který umí pracovat s kontextem, chytře se doptat a nabídnout vhodné řešení v rámci jasných omezení. Vysvětlím, proč samotný prompt nestačí, jakou roli hraje orchestrátor, integrační vrstva a tvrdý výstupní kontrakt, a co to znamená pro zákaznickou zkušenost: méně frustrace, méně předání na operátora a rychlejší vyřešení požadavku.

• Proč agent pomocí LLM, a co reálně zlepší ve voicebotovi?
• E2E architektura: orchestrátor, LLM gateway, integrace, backend + rizika a kontrolní body.
• LLM vs NLP (intent/slot/rules): plusy/minusy, failure modes, údržba, škálování.
• Kdy NLP stačí vs. kdy LLM vyhrává - determinismus vs variabilita/fuzzy dialog.
• Kontext před LLM: kredit, balíčky, způsobilost, ceny, struktura dat proti „vymýšlení“.
• Autonomní prompt + guardrails: scope, max turns, akce, doptávání, nejasnosti.
• Hard Output Contract: striktní JSON, allowed keys, continue/done
• Aktivace: přesně jedna služba, potvrzení, kredit (nedostatek/dostatek), alternativa.
• Hrany + eskalace: off-topic, STT šum, odmítnutí, „nevím“ dokola, bezpečné předání
• Testování/regrese: GDS, varianty, kontrola změn promptu/akcí.
• Demo: NLP vs LLM na stejném scénáři + metriky, repliky, čas, „nerozumím“, handover.

AI agenti jako Claude Code, Codex nebo Gemini CLI dnes na vývojářském notebooku zvládají věci, které ještě nedávno znamenaly hodiny manuální práce. Nasadit je ale do produkčního provozu pro celý tým je úplně jiná disciplína. Najednou musíte řešit, ke kterým systémům se agent dostane, čí jménem jedná a jak zabránit tomu, aby si sám neotevřel přístup tam, kam nemá.

Sami jsme se podíleli na vývoji klasického agentního frameworku, tedy řešení, ve kterém máte vše pevně ve vlastních rukou. Mezitím se svět posunul od frameworků k harnessům, které primárně konfigurujete a které si o dalším kroku rozhodují samy. Právě tato autonomie je zdrojem nového druhu rizika: agent má k dispozici bash, čte webové stránky, otevírá dokumenty od kolegů a každý text, který přečte, ho může přimět k akci, kterou jste nechtěli, aby provedl.

V přednášce si ukážeme platformu postavenou nad Kubernetes, která libovolnému harnessu poskytne izolovaný pod, plánovač, perzistentní workspace a integraci se Slackem i dalšími nástroji. Hlavní část ale věnujeme tomu, proč v takto postavené architektuře žádný API klíč nikdy nevstupuje do procesu agenta, proč jediná cesta ven vede přes proxy, která doplňuje token až při samotném volání a všechny citlivé operace agent vykonává až po explicitním souhlasu člověka, a proč i ve Slack vlákně, kde se potká víc lidí, jedná agent vždy pod identitou toho, kdo zrovna píše. Jde o záruky vynucené na úrovni Kubernetes a sítě, nikoli o důvěru v agenta, a jsou tedy odolné i ve chvíli, kdy ho útočník pomocí prompt injection přesvědčuje, aby udělal opak.

Hlavním tématem letošní konference Google Cloud Next v Las Vegas bylo Gemini Enterprise. Přednáška vás provede světem Gemini Enterprise Agent Platform (dříve Vertex AI) a ukáže, jak efektivně navrhovat moderní, škálovatelné a bezpečné AI agenty. Získáte přehled o nástrojích (Agents CLI), které pomohou s tvorbou agentů v open-source frameworku Agent Development Kitu (ADK). Naučíte se agenty nejen tvořit, ale i spolehlivě nasazovat do cloudu. Dozvíte se jak hotové agenty bezpečně zpřístupnit uživatelům v rámci Gemini Enterprise aplikace

• Gemini Enterprise aplikace a srovnání s Gemini aplikací
• Gemini Enterprise Agent Platform (dříve Vertex AI): Pojďme se zorientovat v nových a přejmenovaných službách - komplexní přehled služeb, modelů a infrastruktury Google pro návrh moderních a bezpečných AI agentů.
• Tipy pro práci s frameworkem Agent Development Kit (ADK): Návrh, tvorba, integrace na MCP či A2A protokol
• Produkční nasazení v do cloudu a provoz v Agent Runtime či Cloud Run: Jak vzít lokální kód a spolehlivě jej nasadit jako škálovatelnou službu v cloudu
• Publikace a adopce v Gemini Enterprise: Krok za krokem – proces registrace a bezpečného zpřístupnění hotového agenta běžným firemním uživatelům

V dubnu Uber vyčerpal plánovaný rozpočet na Claude Code pro rok 2026. Anthropic omylem zveřejnil 512 000 řádků zdrojového kódu Claude Code přes špatně zabalený npm package. Andrej Karpathy popisuje, jak přešel z 20% na 80% agent-driven programming. A obyčejný soubor CLAUDE.md se stal symbolem nové infrastruktury a nasbíral na GitHubu přes sto tisíc hvězd.

AI coding se za poslední měsíce změnil z chytřejšího autocomplete na agentní workflow. Agenti dnes čtou codebase, mění soubory, spouštějí testy, otevírají pull requesty, kontrolují browser a pracují s nástroji, které dřív mohl používat pouze člověk. Co agent v runtime nevidí, neexistuje. Vývojář se tím neposouvá jen od psaní kódu k promptování. Posouvá se k návrhu prostředí, ve kterém agent smí jednat.

To zásadně mění otázku odpovědnosti. Dokud agent jen pomáhá psát kód, kterému člověk rozumí, je odpověď jednoduchá. Horší je druhý režim: agent generuje změny, jejichž detaily už člověk neověřuje řádek po řádku, ale systémově - pomocí testů, logů, traces, review agentů, sandboxů, permission policies a rollbacků.

Přednáška ukáže, z čeho se takové prostředí dnes skládá. AGENTS.md a ExecPlans jako trvalá paměť repozitáře. Lintery, typy a kontrakty jako mechanické invarianty. MCP nástroje, skilly, commandy a browser jako oči a ruce agenta. Sandboxy a permission policies jako mantinely. Review agenti jako druhý pár očí. A hlavně: co se stane, když některá z těchto vrstev chybí. Protože odpovědnost za chyby v agentním vývoji nezmizí. Jen se přesune - z autora jednotlivých řádků na autora prostředí, ve kterém agent pracuje.