AI architektura v praxi: Kdy použít LLM, RAG a agentní systémy

Kdy stačí jednoduché LLM workflow, kdy dává smysl RAG a kdy už je na místě agentní řešení? A podle čeho se rozhodovat mezi lokálními modely, open-source nástroji a komerčními cloudovými službami?

Během Masterclass Jaroslav Čech ukáže svůj praktický pohled na návrh AI architektury. Na konkrétních scénářích rozebereme, jak jednotlivé přístupy zapadají do reálných systémů, podle čeho mezi nimi rozhodovat a jaké dopady mají jednotlivé volby na cenu, kvalitu, bezpečnost i provoz.

Pro koho to má smysl:

• Softwaroví inženýři, techničtí leadi a architekti, kteří AI integrují do aplikací a firemních systémů a potřebují se rozhodovat mezi různými přístupy.
• DevOps, platform a infrastrukturní specialisté, kteří řeší provoz, integraci, bezpečnost a udržitelnost AI řešení.
• Technologičtí manažeři a lidé odpovědní za AI projekty, kteří potřebují rozumět dopadům jednotlivých architektonických rozhodnutí.

Nad čím budeme diskutovat:

1. část: Jak se rozhodovat o architektuře AI řešení

13:00–14:30

• Kdy stačí jednoduché LLM workflow, kdy využít RAG a kdy uvažovat o agentním systému
• Lokální model, open source, nebo komerční cloudová služba?
• Jak do rozhodování vstupuje cena, rychlost, kvalita a bezpečnost
• Kdy má smysl kombinovat více modelů a služeb
• Jak přemýšlet o napojení AI na vlastní data, nástroje a podnikové systémy
• Jakou roli mohou v celkové architektuře hrát nástroje a standard MCP

Těžištěm nebude výklad jednotlivých technologií, ale rozhodnutí, která je při návrhu potřeba udělat, a souvislosti mezi nimi.

Prostor bude i pro průběžné otázky a diskusi.

(14:30–14:45 Přestávka)

2. část: Konkrétní scénáře z praxe – co zvolit a proč

14:45–15:45

Na dvou scénářích se podíváme na to, jak se architektonická rozhodnutí promítají do konkrétního řešení.

AI nad vlastními dokumenty

• jak pracovat s vlastními daty a připravit je pro využití s LLM,
• jak zajistit relevantní odpovědi s dohledatelnými zdroji,
• jak do řešení zapadají indexace, metadata, embeddingy, vektorové databáze a hybridní vyhledávání,
• podle čeho rozhodovat, které prvky skutečně potřebujeme.

Automatizované zpracování e-mailů a příloh

• klasifikace zpráv a extrakce strukturovaných údajů,
• validace výsledků a napojení na podnikové aplikace,
• kde postačí jednodušší workflow, kde využít LLM a kdy už může dávat smysl agentní přístup,
• kde je potřeba zachovat kontrolu a ověřování výsledků.

(15:45–16:00 Přestávka)

3. část: Jak to celé poskládat – architektura, hranice a společná diskuse

16:00–17:00

• Jak kombinovat lokální modely, open-source technologie a cloudové služby
• Jak propojit modely, data a nástroje do funkčního celku
• Jak pracovat s orchestrací workflow a správou kontextu
• Kde zapojit člověka do rozhodování – human-in-the-loop
• Jak do návrhu zahrnout bezpečnost, auditovatelnost, observabilitu a provozní udržitelnost
• Referenční architektura jako výchozí bod pro návrh vlastního AI řešení
• Otevřená diskuse nad konkrétními scénáři, variantami a otázkami účastníků

Co si z Masterclass odnesete:

• praktický rámec pro rozhodování, kdy použít jednoduché LLM workflow, kdy RAG a kdy agentní systém,
• lepší orientaci v tom, podle čeho posuzovat různé architektonické varianty,
• pohled na to, jak pracovat s vlastními daty a jak jednotlivé AI komponenty zapadají do celkového řešení,
• referenční architekturu jako výchozí rámec pro návrh bezpečného, auditovatelného a provozně udržitelného AI systému,
• možnost prodiskutovat vlastní otázky a architektonická rozhodnutí přímo s expertem.

Tématem Vás provede:

Jaroslav Čech

Jaroslav je IT profesionál s dlouholetými zkušenostmi v oblasti technologií zaměřených na komunikaci mezi člověkem a počítačem. Založil a následně prodal několik IT firem, poslední z nich byla společnost Mluvii. Přes rozpoznávání řeči se v posledních letech dostal k umělé inteligenci, především k automatizovanému zpracování textu. Podílel se na implementaci webového chatu nebo videokiosků například pro O2, Home Credit, ČSOB či innogy. Pracoval také pro BMW a Siemens v Německu a realizoval několik projektů v USA.