RAG – Retrieval-Augmented Generation

Tento workshop ukazuje, jak postavit RAG jako praktický architektonický vzor pro práci s firemními znalostmi a dokumenty. Projdeme si celou pipeline ingestion - retrieval - generation, kde pochopíte , proč je kvalita retrievalu klíčová, a vyzkoušíte si návrh i ladění vyhledávání včetně hybridních přístupů (vector + fulltext), fúze výsledků (RRF) a technik jako query rewriting nebo metadata-aware retrieval.

Lektor kurzu

JAROSLAV ČECH

Jaroslav Čech je zkušený softwarový architekt a AI konzultant s více než 30 lety praxe v IT. Spolupracoval se společnostmi BMW, O2, ČEZ či PPL a stál u zrodu úspěšné platformy mluvii.

Více o lektorovi

Dnes se specializuje na AI agenty, RAG systémy, podnikové AI integrace a nástroje GitHub Copilot a Codex. Ve svých kurzech propojuje hluboké technické znalosti s praktickými zkušenostmi z reálných projektů a předává účastníkům postupy okamžitě využitelné v praxi.

Cílová skupina

• Backend / Full-stack vývojáři
• Tech lead / Architekti
• AI / ML engineers
• Vývojáři pracující s firemními dokumenty a LLM

Cíle kurzu

• RAG jako architektonický vzor
• typy vyhledávání a jejich kombinace
• retrieval jako klíčový faktor úspěchu RAG
• volba přístupu: RAG × hybrid × agentní přístup

Osnova

1. Úvod do RAG a volba správného přístupu 

• Proč RAG vznikl: přístup k neveřejným a aktuálním informacím, dohledatelnost zdrojů.
• Grounding: jak odpověď opřít o konkrétní podklady.
• Proč RAG sám o sobě nezaručuje odstranění halucinací.
• RAG vs. dlouhý kontext: kdy vložit celý dokument a kdy nejprve vyhledávat.
• RAG vs. fine-tuning: zpřístupnění znalostí a úprava chování modelu.
• Kdy použít SQL, API nebo jejich kombinaci s dokumentovým vyhledáváním.
• Typické scénáře: interní znalosti, technická dokumentace, předpisy, zákaznická podpora.
• Kritéria úspěchu: správnost, úplnost, aktuálnost, citace, latence a cena.

2. Architektura, ingestion, chunking a metadata 

Architektura a životní cyklus dat

• Oddělení indexační pipeline od zpracování uživatelského dotazu.
• Načtení → parsování → čištění → chunking → obohacení → indexace.
• Vyhledání kandidátů → fúze → reranking → sestavení kontextu → odpověď.
• Inkrementální aktualizace, deduplikace, verzování a odstraňování neplatných dokumentů.

Zpracování dokumentů

• PDF, DOCX, HTML, e-maily, tabulky a podnikové zdroje typu SharePoint/Confluence.
• OCR a zachování struktury: nadpisy, tabulky, seznamy, stránky a poznámky.
• Jak odhalit chyby parsování ještě před vytvořením embeddingů.
• Oddělení originálu, extrahovaného obsahu a odvozených dat.

Chunking a zachování kontextu

• Fixed-size, strukturální, sémantický a adaptivní chunking.
• Parent–child přístup: menší jednotky pro vyhledávání, větší pro odpověď.
• Overlap, velikost chunku a respektování hranic významových celků.
• Contextual retrieval: doplnění stručného kontextu dokumentu ke chunku před indexací.
• Přínosy, cena a rizika obohacování pomocí LLM. anthropic.com

Metadata

• Identifikátor dokumentu a chunku, zdroj, stránka a hierarchie dokumentu.
• Jazyk, typ dokumentu, vlastník, verze a doba platnosti.
• Přístupová oprávnění a příslušnost k organizaci či tenantovi.
• Metadata jako základ filtrování, citací a auditovatelnosti.

3. Embeddings, vektorové databáze a indexy 

• Co embedding reprezentuje a co z podobnosti vektorů nelze vyvozovat.
• Výběr modelu podle jazyka, domény a typu dokumentů.
• Dimenze, normalizace a rozdíl mezi embeddingem dotazu a dokumentu.
• Konzistence embeddingového modelu; migrace a reindexace při jeho změně.
• PostgreSQL + pgvector vs. specializovaná databáze nebo vyhledávací služba.
• Cosine similarity, dot product a L2: souvislost s použitým modelem.
• Přesné vs. aproximativní vyhledávání; HNSW a IVFFlat.
• Paměť, rychlost indexace, latence a recall.
• Vliv metadatových filtrů na počet a kvalitu výsledků; možnosti iterativního prohledávání v pgvector. 

4. Vyhledávání, fúze výsledků a reranking 

Základní vyhledávací strategie

• Vektorové vyhledávání: sémantika, parafráze, top-k a kalibrace prahů.
• Lexikální vyhledávání: přesné názvy, identifikátory, chybové kódy a verze.
• BM25 a fulltext v PostgreSQL; rozdíl mezi BM25 a nativním rankingem ts_rank / ts_rank_cd.
• Čeština, diakritika, tokenizace a vícejazyčné dotazy.

Hybridní vyhledávání

• Paralelní vektorové a lexikální hledání.
• Vážená kombinace skóre a její omezení.
• RRF — Reciprocal Rank Fusion: slučování pořadí výsledků.
• Deduplikace a omezení dominance jednoho dokumentu.
• Rozdíl mezi počtem nalezených kandidátů a počtem chunků předaných modelu.

Reranking

• Druhé posouzení relevance dvojice dotaz–pasáž.
• Cross-encoder a další rerankingové modely.
• Rozdíl mezi fúzí výsledků a rerankingem.
• Kompromis mezi přesností, latencí a cenou.
• Proč reranker nenahradí chybějící relevantní dokument mezi kandidáty.

Úpravy dotazu a hierarchické hledání

• Query rewriting, multi-query a rozklad složité otázky.
• Zachování původního významu dotazu a kontrola nákladů.
• Filtrování podle jazyka, data, verze a dalších metadat.
• Vyhledávání dokument → kapitola → chunk; doplnění sousedního kontextu.

5. Sestavení kontextu, generation a citace 

• Context engineering: výběr, pořadí a objem podkladů pro generování.
• Odstranění duplicit, rozšíření kontextu a komprese bez ztráty důležitých informací.
• Instrukce pro práci se zdroji, nejistotou a rozpornými dokumenty.
• Citace konkrétního dokumentu, stránky nebo pasáže.
• Rozdíl mezi existující citací a citací, která skutečně podporuje tvrzení.
• Odpovědi na neúplné dotazy: upřesnění, částečná odpověď nebo odmítnutí závěru.
• Proč instrukce „odpovídej pouze z kontextu“ sama o sobě nestačí.
• Conversational RAG: převod navazující otázky na samostatný dotaz a nové vyhledání.
• Strukturované odpovědi pro další strojové zpracování.

6. Pokročilé varianty RAG

Agentic RAG

• Agent vybírá zdroj a strategii vyhledávání.
• Rozklad otázky, opakované dohledávání a kontrola dostatečnosti podkladů.
• Kombinace dokumentového retrievalu, SQL, API a webového vyhledávání.
• Podmínky ukončení, omezení počtu kroků, latence a rozpočtu. 

GraphRAG

• Entity, vztahy a propojení informací napříč dokumenty.
• Lokální otázky vs. souhrnné otázky nad celým korpusem.
• Náklady na vytvoření a aktualizaci grafu; kdy jednodušší retrieval postačí. 

Multimodální RAG

• Vyhledávání v tabulkách, grafech, obrázcích a skenech.
• Textová extrakce vs. vizuální reprezentace stránek.
• Multimodální embeddings a předání obrazových podkladů modelu.
• Zachování vazby výsledku na původní stránku nebo objekt. 

7. Evaluace, bezpečnost a provoz

Měření kvality

• Testovací otázky, referenční odpovědi a označené relevantní zdroje.
• Samostatné měření retrievalu a výsledné odpovědi.
• Recall@k, Precision@k, MRR a nDCG: co měří a kdy je použít.
• Správnost, podloženost, úplnost odpovědi a kvalita citací.
• LLM-as-a-judge a nutnost kalibrace lidským hodnocením.
• Diagnostika: chyba zdroje, parsování, vyhledávání, rerankingu nebo generování. 

Bezpečnost a provoz

• Oprávnění k dokumentům vynucovaná před předáním obsahu generujícímu modelu.
• Změny oprávnění, oddělení tenantů a bezpečnost cache.
• Prompt injection v dokumentech a nedůvěryhodný obsah.
• Aktuálnost indexu, mazání dat, audit a ochrana citlivých informací v logách.
• Monitoring latence, nákladů, neúspěšných dotazů a regresí po změně systému. 

8. Praktický workshop: od baseline k ověřenému zlepšení 

Zadání: znalostní asistent nad sadou technických nebo interních dokumentů

• Připravená aplikace, dokumenty a malá sada testovacích otázek.
• Kontrola parsování, chunků a metadat.
• Spuštění baseline s vektorovým vyhledáváním.
• Doplnění fulltextu a fúze pomocí RRF.
• Zapojení rerankingu a porovnání nalezených pasáží.
• Experiment s velikostí chunku, top-k nebo parent–child kontextem.
• Generování odpovědi s citacemi.
• Test otázky bez odpovědi, přesného identifikátoru, neplatné verze a omezeného přístupu.
• Porovnání kvality, latence a nákladů jednotlivých variant.

9. Návrh vlastního řešení a závěrečná diskuze 

• Volba mezi dlouhým kontextem, klasickým RAG, agentic retrievalem a SQL/API.
• Rozhodnutí podle typu otázek, objemu dat, aktuálnosti a oprávnění.
• Vlastní řešení vs. spravovaná vyhledávací služba.
• Anti-patterny: ladění bez testovací sady, univerzální chunking a přidávání složitosti bez měřitelného přínosu.
• Návrh pilotu: data, odpovědnost, metriky úspěchu a provozní náklady.
• Diskuze nad scénáři účastníků.

Technické požadavky

• Notebook s připojením k internetu
• Python prostředí (lokálně nebo v cloud IDE)
• Přístup k LLM API (klíč / účet)
• Doporučeno: VS Code + základní tooling pro práci s JSON/logy

Požadavky na účastníky

• základní práce s LLM API
• znalost Pythonu
• základ databází / SQL