Tvorba aplikací s GenAI v jazyce Python

Tento kurz je určen pro vývojáře, kteří by potřebovali do svých aplikací přidat prvky GenAI (generativní AI). Seznámíme se se základními koncepty, které je možné využít pro tvorbu nástrojů a aplikací psaných v jazyce Python, které využívají generativní AI. Popíšeme si význam vektorizace textu, embedded modelů i RAG databází.

V praktické části kurzu si ukážeme, jakým způsobem lze propojit LLM (velký jazykový model) s RAG databází k vytvoření "chatu" s potřebnými znalostmi. Aplikaci s GenAI vytvoříme "na zelené louce", aby bylo zřejmé, které kroky a postupy je zapotřebí implementovat.

Pro implementaci bude použit jazyk Python a framework Langchain.

Obsah kurzu:

• Umělá inteligence a strojové učení
• Vlastnosti velkých jazykových modelů
• OpenAI a další standardizovaná API
• Framework Langchain určený pro tvorbu aplikací využívajících GenAI
• Framework Llama Stack
• RAG (Retrieval-augmented generation)
• Tokenizace textu
• Tvorba embedded modelů (vektorizace)
• Vyhledávání založené na podobnosti vektorů (vector similarity seach)
• Databáze PgVector a FAISS
• Další požadavky na GenAI aplikaci
  • kontrola vstupů
  • limitace počtu použitých tokenů
• Evaluace GenAI aplikací

Předpoklady účastníka:

• základní znalosti programovacího jazyka Python

SW požadavky:

• interpret jazyka Python
• libovolné vývojové prostředí (programátorský editor či IDE)
• přístup na Internet umožňující stahování balíčků Pythonu