Tvorba aplikací využívajících GenAI (LLM) v Pythonu

Na tomto talku se seznámíme se základními koncepty, které je možné využít pro tvorbu nástrojů a aplikací, které využívají generativní AI (GenAI). Popíšeme si význam vektorizace textu, embedded modelů i RAG databází. V praktické části si ukážeme, jakým způsobem lze propojit LLM (velký jazykový model) s RAG databází k vytvoření "chatu" s potřebnými znalostmi. Pro implementaci bude použit jazyk Python a framework Langchain.

• Vlastnosti LLM
• OpenAI a další standardizovaná API
• použití frameworku Langchain pro tvorbu aplikací využívajících GenAI
• Framework Llama Stack
• RAG (Retrieval-augmented generation)
• Tokenizace textu, tvorba embedded modelů (vektorizace)
• Vyhledávání založené na podobnosti vektorů (vector similarity seach)
• PgVector
• FAISS
• Evaluace GenAI aplikací

Prezentující: Pavel Tišnovský (Principal SW Engineer and tech lead at RedHat)

Pavel vystudoval VUT FIT a v současné době pracuje ve společnosti Red Hat, kde vyvíjí nástroje a mikroslužby pro OpenShift. V současnosti používá převážně programovací jazyky Go a Python v odůvodněných případech i Javu, Python, BASH či ANSI C. Pro soukromé projekty preferuje Clojure nebo z druhé strany spektra assembler.

Podmínky registrace

Podmínkou bezplatné účasti na našich snídaních je uvedení Vaší společnosti, jmenného emailu a platného telefonního čísla. V opačném případě si vyhrazujeme právo Vaši účast odmítnout.