Tvorba aplikací s GenAI v jazyce Python

Tento kurz je určen pro vývojáře, kteří by potřebovali do svých aplikací přidat prvky GenAI (generativní AI). Seznámíme se se základními koncepty, které je možné využít pro tvorbu nástrojů a aplikací psaných v jazyce Python, které využívají generativní AI. Popíšeme si význam vektorizace textu, embeddingových modelů i RAG databází.

V praktické části kurzu si ukážeme, jakým způsobem lze propojit LLM (velký jazykový model) s RAG databází k vytvoření „chatu“ s potřebnými znalostmi. Aplikaci s GenAI vytvoříme „na zelené louce“, aby bylo zřejmé, které kroky a postupy je zapotřebí implementovat.

Pro implementaci bude použit jazyk Python a framework LangChain.

Lektor kurzu

PAVEL TIŠNOVSKÝ

Pavel Tišnovský je zkušený softwarový vývojář, technologický odborník a lektor. Působí ve společnosti Red Hat, kde se zaměřuje na AI systémy a frameworky, zejména Llama Stack. Má dlouholeté zkušenosti s programovacími jazyky Python, Go, Java a Clojure a věnuje se také technickému psaní a vzdělávání.

Více o lektorovi

Pavel Tišnovský vystudoval Fakultu informačních technologií VUT v Brně. Během své profesní kariéry se věnoval vývoji softwaru v jazycích C, C++ a Java, technologiím OpenJDK i vývoji mikroslužeb v Pythonu a Go.

Od roku 2009 působí ve společnosti Red Hat, kde zastává pozici Tech Lead – AI Systems and Frameworks. Zaměřuje se zejména na technologie související s umělou inteligencí a frameworkem Llama Stack.

Je autorem odborných článků na serveru Root.cz a knih Evoluce Python a Programovací jazyk Go. Věnuje se také výuce na VUT v Brně a vedení odborných školení.

Mezi jeho další odborné zájmy patří funkcionální programování v jazyce Clojure a programování v assembleru.

Obsah kurzu

• Umělá inteligence a strojové učení
• Vlastnosti velkých jazykových modelů
• OpenAI a další standardizovaná API
• Framework LangChain určený pro tvorbu aplikací využívajících GenAI
• Framework Llama Stack
• RAG (Retrieval-augmented generation)
• Tokenizace textu
• Tvorba embeddingových modelů (vektorizace)
• Vyhledávání založené na podobnosti vektorů (vector similarity search)
• Databáze PgVector a FAISS
• Další požadavky na GenAI aplikaci
  • kontrola vstupů
  • limitace počtu použitých tokenů
• Evaluace GenAI aplikací

Předpoklady účastníka

• Základní znalosti programovacího jazyka Python

SW požadavky

• Interpret jazyka Python
• Libovolné vývojové prostředí (programátorský editor či IDE)
• Přístup na internet umožňující stahování balíčků Pythonu