AI ve firmě bez chaosu: Od shadow AI k bezpečným agentům

AI se ve firmách často začne používat dřív, než vzniknou společná pravidla. Lidé si pořizují vlastní nástroje, pracují v nich s firemními dokumenty nebo si vytvářejí první automatizace. S rostoucím využitím pak přicházejí otázky kolem dat, oprávnění, odpovědnosti, bezpečnosti i nákladů.

David Bečvařík a Vladimír Beran spojí dva pohledy na stejné téma - adopci AI a změnu pracovních návyků s praktickým návrhem a provozem agentních systémů. Budeme diskutovat o tom, jak nastavit používání AI ve firmě, jak vybírat vhodné use cases, kde má smysl využít agenty a co je potřeba vyřešit při jejich napojení na firemní systémy.

Pro koho to má smysl:

• CIO, CTO, IT manažeři a techničtí leadi, kteří řeší zavádění a provoz AI ve firmě.
• Lidé odpovědní za AI, inovace nebo digitalizaci, kteří vybírají use cases a hledají cestu od jednotlivých experimentů k širšímu využití.
• Security, právní a datové role, které řeší přístup AI k firemním datům, oprávnění, auditovatelnost a odpovědnost.
• Manažeři a vedoucí týmů, kteří potřebují nastavit využívání AI tak, aby bylo pro lidi použitelné a pro firmu zvládnutelné.

Nad čím budeme diskutovat:

1. část: Shadow AI a pravidla pro používání AI

• Jak ve firmách vzniká shadow AI
• Proč samotné zákazy problém neřeší
• Jak nastavit pravidla pro používané nástroje, data a přístupy
• Co může zůstat osobním asistentem, co řešit klasickou automatizací a kde už dává smysl agent
• Jak rozdělit odpovědnost mezi management, IT, security, právní a datové role a jednotlivé byznysové týmy

2. část: Jak vybírat use cases a nastavovat míru autonomie

• Podle čeho vybírat první use cases
• Jak zohlednit jejich hodnotu, četnost, dostupnost dat a toleranci k chybě
• Kdy použít klasickou automatizaci a kdy agenta
• Jak velkou míru autonomie agentovi dát
• Kde nastavit schvalování a kontrolní body
• Jak do rozhodování zahrnout náklady, rizika a očekávaný přínos

( Přestávka a networking)

3. část: Konkrétní situace z firemní praxe

Na konkrétních scénářích rozebereme různé možnosti řešení a jejich dopady.

• Shadow AI ve firmě
  Lidé používají vlastní AI nástroje a pracují v nich s interními dokumenty. Jak nastavit pravidla a nabídnout použitelnou alternativu, aniž se využívání AI přesune mimo kontrolu firmy?
• Agent napojený na firemní systémy
  Jak řešit identitu uživatele, minimální oprávnění, schvalování, auditní stopu, nákladové limity a eskalace?
• Od pilotu ke škálování
  Firma má za sebou první AI experimenty. Podle čeho rozhodnout, které rozvíjet, kde zvyšovat míru autonomie a které naopak dál neposouvat?

4. část: Zkušenosti a otázky z vašich firem

Prostor pro konkrétní situace a zkušenosti účastníků. Diskuse se může věnovat například tomu:

• jak firmy nastavují pravidla pro používání AI a kde při tom narážejí,
• které use cases dávají smysl automatizovat a které ne,
• jak řešit přístup AI k datům a interním systémům,
• kde ponechat člověka v rozhodování,
• jak nastavit odpovědnost, kontrolu a měření výsledků

5. část: Od pilotu ke škálování

Na závěr shrneme oblasti, které je potřeba mít vyřešené před širším nasazením AI:

• odpovědnost za adopci AI,
• pravidla pro nástroje, data a přístupy,
• výběr a prioritizaci use cases,
• míru autonomie a lidské schvalování,
• bezpečnost a auditovatelnost,
• metriky a vyhodnocování přínosu.

Co si z Briefs odnesete:

• rámec pro nastavení používání AI ve firmě,
• kritéria pro výběr vhodných use cases a rozhodování o míře jejich automatizace,
• pohled na bezpečné zapojení asistentů a agentů do firemních systémů,
• oblasti, které je potřeba řešit při přechodu od jednotlivých experimentů ke škálování,
• dvě různé praktické perspektivy na adopci, provoz a další rozvoj AI ve firmě.

Tématem Vás provedou:

David Bečvařík

David je CTO ve společnosti Etnetera, kde se věnuje tomu, jak z AI udělat produkční infrastrukturu s reálným byznysovým dopadem. Pohybuje se na pomezí architektury, backendových systémů a agentních workflow a řeší řízení rizika, nákladů i míry autonomie tak, aby technologie dávala ekonomický smysl.

Zaměřuje se na využití AI při zrychlení delivery, zvyšování produktivity týmů a škálování firmy s důrazem na technickou robustnost a reálný byznysový přínos.

Vladimír Beran

Vladimír je AI ambasador ve společnosti Etnetera Core. Zaměřuje se na proměnu práce v éře AI a na nové produkty a služby, které s touto změnou souvisejí.

V IT působí 25 let a věnuje se tomu, jak AI mění pracovní návyky, fungování týmů a způsob, jakým firmy nové technologie přijímají a využívají.