AI v moderním IT provozu: od LLM po agentní systémy

Jednodenní školení zaměřené na praktické využití moderní AI, LLM, agentních systémů, RAG architektur, bezpečnosti a AI asistovaného programování pro seniorní IT role. Ukážeme si, kde už dnes AI reálně zrychluje práci v IT provozu, infrastruktuře, bezpečnosti i vývoji a kde naopak naráží na své limity. Účastníci získají technický rámec pro to, aby dokázali rozlišit mezi efektivním demo use casem a nasaditelným řešením, které obstojí v reálném enterprise prostředí.

Cílová skupina

Technické vedení

• IT management
• tech management

Infrastruktura a provoz

• infrastructure engineers
• devops engineers
• network engineers

Bezpečnost a podpora

• security engineers
• IT support
• voicebot / chatbot specialisté

Cíle kurzu

• Cílem je vytvořit technicky realistické porozumění aktuálního stavu AI.
• Pochopit principy fungování moderní AI a LLM.
• Naučit se prakticky používat AI v každodenní IT práci.
• Porozumět agentním systémům a RAG architekturám.
• Pochopit bezpečnostní rizika AI v enterprise prostředí.
• Získat přehled o enterprise i open-source AI technologiích.
• Vidět praktický vývoj AI systému od návrhu po deployment.

Osnova kurzu

Teorie AI

AI boom

• vývoj AI posledních 5 let
• LLM vs tradiční ML
• proč AI dnes dramaticky mění IT

Co je LLM

• tokeny
• trénování modelů
• inference
• LLM jako predikce dalšího tokenu

Jak model funguje

• transformer architektura
• embeddings
• attention mechanismus

Jak model „přemýšlí“

• interpretace promptu
• generování hypotéz
• generování odpovědi
• chain-of-thought, reasoning models, tool use

Silné stránky AI

• analýza textu
• generování kódu
• log analysis
• troubleshooting

Limity AI

• hallucinations
• neaktuální znalosti
• citlivost na prompt

Typy AI nástrojů

• Chat AI
• Code AI
• Enterprise AI
• AI agents

AI v IT workflow

• AI jako analytik
• AI jako skriptovací nástroj
• AI jako troubleshooting nástroj

AI agenti – úvod

• Agent = model + tools + reasoning + memory

Pokročilý prompt engineering

System vs user prompt

• system prompt definuje chování modelu
• user prompt definuje konkrétní úkol

Struktura systémového promptu

• role
• task
• context
• constraints
• output format

Pokročilé techniky

• structured prompts
• chain-of-thought
• JSON outputs
• reasoning prompts

Nástroje pro vývoj promptů

• OpenAI playground
• prompt evaluation
• prompt versioning

Praktické příklady

• analýza logů
• generování skriptů
• troubleshooting

Příklady z projektů

• Quizzy.io – AI generující otázky
• Actisto.com – AI generující zprávy

Agentní systémy

Monolitický vs agentní AI systém

• Monolit: prompt - odpověď
• Agent: prompt - plán - nástroje - výsledek

MCP protokol – základy

• Model Context Protocol
• standard pro AI tools a integrace

 AI tools

• filesystem
• web search
• database
• shell

Multi-agentní architektury

• manager / worker
• pipeline
• voting

Příklad multi-agentního RAG systému

• ingestion agent
• retrieval agent
• analysis agent

Guardrails

• step limits
• token limits
• tool allow-list
• HITL approval

Agent builder

• Ukázka OpenAI agent builderu a definice tools.

RAG systémy

Princip RAG

Retrieval Augmented Generation – model pracuje s externí knowledge base.

RAG metody

• vector search
• hybrid search
• GraphRAG
• RTT

Metadata

• jak metadata generovat
• jak je ukládat
• jak je používat při retrievalu

Chunking strategie

• fixed chunks
• semantic chunks
• document chunks

Vektorové databáze

• pgvector
• Pinecone
• Weaviate

Limity RAG

• relevance
• latency
• kvalita dat

Možné výstupy RAG

• interní znalostní DB
• support chat/bot (text/voice)
• onboarding materiály

Administrátorské AI nástroje

GPT 5.4 nástroje

• shell tool
• computer use tool

Praktické scénáře

• AI analyzuje server
• AI generuje skripty
• AI pomáhá řešit incident

Rizika

• audit
• kontrola akcí
• sandboxing

AI asistované programování

Nástroje

• Codex
• GitHub Copilot
• AI IDE

Workflow

• návrh architektury
• generování kódu
• testy
• deployment

Praktická ukázka

• návrh systému
• generování kódu
• testování
• dockerizace
• deployment

Bezpečnost AI v enterprise prostředí

Hlavní bezpečnostní rizika

• data leakage
• prompt injection
• model manipulation
• neautorizované akce agentů

Prompt injection

• jak funguje
• typické scénáře útoku

Data governance

• co lze posílat do AI
• anonymizace dat
• interní modely a enterprise nasazení

Guardrails

• sandbox execution
• tool restrictions
• monitoring

Audit a observability

• logování AI akcí
• audit trail
• monitoring usage

Pokročilé open-source modely

Proč open-source modely

• kontrola nad daty
• lokální provoz
• nižší náklady

Nejvýznamnější modely

• Llama
• Mistral
• DeepSeek
• Qwen

Open-source inference

• Ollama
• vLLM
• llama.cpp

Lokální AI architektura

• model server + vector DB + RAG + agent layer

Limity open-source modelů

• kvalita reasoning
• kontext
• náročnost provozu a údržby

Hybridní architektura

• Kombinace enterprise modelu a open-source modelů podle typu workloadu.

Diskuze a use cases

Diskuze nad konkrétním využitím AI

• incident analysis
• security log investigation
• support automation
• knowledge assistants
• infrastructure troubleshooting