Etnology #5: (Ne)bezpečná svoboda AI agentů. Proč 95 % pilotů selže a jak přežít technologickou transformaci?
PŘEČÍST ČLÁNEK
Umělá inteligence už dávno není jen o chytrém našeptávání textů nebo generování obrázků. Světem byznysu hýbe nový fenomén: autonomní AI agenti, kterým delegujeme skutečnou práci. Jenže jak jim dát dostatek svobody, aby byli užiteční, a zároveň neztratit kontrolu nad firemními daty a procesy? Právě to bylo hlavním tématem v pořadí již pátého eventu Etnology, který přinesl mimořádně upřímný pohled do zákulisí AI transformace v předních českých i globálních firmách.
Hned úvodní keynote Jiřího Štěpána nastavila zrcadlo přehnanému optimismu. Čísla, která na pódiu zazněla, mluví jasně:
Kde je tedy chyba? Ukazuje se, že hlavní překážkou dnes překvapivě není technologie jako taková. Ta se vyvíjí mílovými kroky. Klíčovým problémem je důvěra. A to hned ve dvou rovinách:
Jaký je vlastně rozdíl mezi populárními chatboty a skutečnými AI agenty? To ve své přednášce rozebral David Bečvařík. Zatímco chatbot pasivně odpovídá na dotazy, AI agent představuje delegaci reálné práce. Čte dokumenty, volá externí systémy a posouvá firemní procesy dál.
Aby však takový agent mohl bezpečně fungovat v ostré produkci a nezůstal jen „hezkým demem“ pro pobavení, potřebuje kolem sebe robustní architekturu – tzv. harness (postroj). Tato vrstva striktně definuje:
David zároveň upozornil na zásadní paradox: autonomie je to, co dělá agenty hodnotnými. Pokud bychom nutili člověka schvalovat úplně každý krok, systém přestane škálovat. Řešením je dávkovat autonomii postupně podle míry rizika a využívat pokročilé mechanismy pro detekci anomálií.
V panelové diskusi, kde, vedle našinců z Etnetery, zasedl Petr Chlumský z Allwynu a Rostislav Cendelín z Edwarda, rezonovalo jedno klíčové téma data governance. Představa, že AI jednoduše nakrmíte všemi firemními daty a stane se zázrak, je nejrychlejší cestou do pekel. Bez řádné struktury a klasifikace dat vznikne v organizaci pouze technologický chaos.
Panelisté se shodli, že úprava nestrukturovaných dat pro potřeby AI není čistě technický projekt, ale obrovská kulturní změna celé firmy. V silně regulovaných odvětvích jsou mantinely nastaveny nekompromisně. Petr Chlumský z Allwynu to ilustrovali na extrémním příkladu: „V Allwynu zná identitu výherce 3 miliard korun pouze tři lidé na světě. AI k těmto systémům nemá a nesmí mít žádný přístup.“
Zazněla také střízlivá pravda o starých systémech. AI nedokáže mávnutím kouzelného proutku přepsat staré robustní monolity (legacy systémy). Kde je ale extrémně efektivní, to je optimalizace procesů. Například v QA (testování softwaru) dokáže přesně analyzovat a určit, kam má oddělení směřovat 80 % svých kapacit, což dramaticky zrychluje vývoj.
Inspirativní pohled na implementaci AI na úrovni celé skupiny přinesli Jiří Navrátil a Jan Klat z lékárenského giganta Dr. Max. Ti na pódiu vystoupili společně s Vláďou Beranem, naším AI ambasadorem, který s celou transformací Dr. Maxu od začátku pomáhá a je pro ně v tomto procesu naprosto klíčovým partnerem.
Aby se v lékárenské síti vyhnuli závislosti na jednom dodavateli (vendor lock-in) a nemuseli platit to, co v nadsázce nazvali „daň z neschopnosti“, společně s naším týmem vyvinuli vlastní platformu TARS / Houston. Ta dnes slouží jako bezpečné rozhraní pro distribuci schválených AI nástrojů napříč firmou při zachování plné kontroly nad kontextem a bezpečností dat.
Právě úzké propojení interního týmu Dr. Maxe a expertízy Vládi Berana v roli AI ambasadora umožnilo zavést do praxe dedikovanou roli AI Group Managera, který má na starosti nastavování pravidel, edukaci a bezpečnost. A výsledky této spolupráce jsou fascinující:
Závěrečný panel přinesl hlubší pohled na ekonomiku a lidský faktor. K zástupcům Dr. Maxu a našemu AI ambasadorovi Vláďovi Beranovi se připojil také Lukáš Benzl, ředitel České asociace umělé inteligence (ČAUI). Diskuse díky tomu získala skvělý nadhled nad celým českým trhem. Panelisté hned v úvodu vyvrátili častý mýtus: pokud si myslíte, že úspěchem je ušetřit každému zaměstnanci 15 minut denně, experti vás vyvedou z omylu, tento čas lidé nejčastěji stráví u kávovaru. Skutečná finanční a byznysová hodnota vzniká až tehdy, když díky AI procesy zcela redefinujeme nebo úplně eliminujeme.
Velkým tématem byla také ekonomická udržitelnost. Náklady na tokeny rostou raketovým tempem a firemní API účty snadno vyskočí na desítky tisíc dolarů měsíčně. Je proto nezbytné zavést přísnou AI hygienu. Na rutinní úkoly, jako je zákaznická podpora prvního stupně, není potřeba nasazovat ten nejdražší a nejvýkonnější model na trhu.
Diskuse otevřela i varovný fenomén dnešní doby: stínové IT (Shadow IT). Demokratizace AI vedla k tomu, že si nadšení zaměstnanci sami kódují malé aplikace a automatizace na koleni. Vzniká tím obrovský technologický dluh a bezpečnostní riziko, o které se nakonec musí postarat interní IT oddělení.
Závěrečný konsenzus panelistů byl nekompromisní: Zaměstnanci, kteří dnes zarytě bojkotují digitální technologie a AI, budou mít na trhu práce obrovský problém a pravděpodobně je brzy čeká nucená rekvalifikace na manuální řemesla.
Že AI mění pravidla hry hned teď, dokázaly odpolední praktické ukázky:
Páté Etnology jasně ukázalo, že vyhrávat budou ty firmy, které dokážou zkrotit chaos v datech, postavit kolem svých AI agentů pevné bezpečnostní mantinely (guardrails) a systematicky transformovat kulturu a návyky svých vlastních lidí. Autonomie AI je obrovskou příležitostí, ale pouze tehdy, máme-li v rukou pevné otěže.
Utekla vám živá debata o stínovém IT, nebo chcete vidět, jak se před zraky diváků programovala aplikace pomocí AI? Máme pro vás připravený kompletní videozáznam z celého dne Etnology #5, kde najdete všechny keynote, panelové diskuse i živé technické ukázky v plném znění.
___
.png)
.png)
