Nebudete věřit, co se stalo, když zadal nedobře odladěnému autonomnímu agentovi nákupní pokyn a svou platební kartu. Už nikdy nebudete klidně spát!
V jednom ze svých nedávných newsletterů jsem psal, že nedeterministické chování AI agentů a obrovský tlak jejich vývojářů a investorů vývojářů na jejich rychlé nasazení, letos způsobí katastrofu. A bude jen na zkušeném managementu, jak takovou katastrofu zvládne. To jsem nevěděl, že jeden takový příklad budu mít za chvíli a půjde v něm o hodně.
Když jsem zkoušel první agenty vytvořené v AI, dělal jsem v tom nenáročné operace typu “najdi na stránkách obcí cenu za svoz odpadu a další podmínky”. A byl jsem vlastně spokojen. Pak jsem se rozhodl, že technologie je otestovaná, takže ji mohu nasadit i na nějaký klíčový úkol, kdy AI agenta vybavím napojením na živé systémy a mojí platební kartou. Vím, školácká chyba, ale bylo to nutné prověřit na vlastní kůži. A tak jsem agentovi zadal úkol hlídat stránky Žižkovského divadla Járy Cimrmana a v momentě, kdy budou dostupné vstupenky na nějakou cimrmanovskou hru, jich šest zakoupit, abych mohl vyrazit s dětmi. Proto ta platební karta.
Úspěch se dostavil o dva dny později, kdy mi cinkla notifikace, že biletky jsou úspěšně zakoupeny a můžeme za dva měsíce jít na hru. Dlužno říct, že hra Nohy z jílu mi nebyla příliš známá, ačkoliv jistě povědomá. Nicméně nejsem velký znalec cimrmanova kánou a venkoncem, proč by nemohl napsat hru z prostředí státní správy. No, nebudu vás napínat, hru uvádělo hostující Divadlo Aqualung a s Cimrmanem neměla nic společného, jen se hrála také v Žižkovském divadle. AI agent prostě zklamal.
No a teď k té úloze seniorního managementu. Dětem jsem vysvětlil výhodu možnosti jít na moderní divadelní pojetí hry Terryho Pratcheta ze zeměplošského cyklu, všem se hra líbila a všichni si dokonce vyžádali, abychom šli i na další díl.
No a takhle to s AI agenty v nejbližší době bude. Buďto je nezvládnete správně nasadit, nebo udělají chybu, v lepším případě koupí špatné lístky, v horším někoho odpojí od elektřiny. V zásadě proto budete potřebovat seniorního manažera, který z nevýhody udělá výhodu a všechno zlé obrátí v dobré. Tak, jako vždycky. Od toho seniorní management je, aby poznal slepou jednosměrku a vyhodnotil, zda je lepší vycouvat, nebo zvýšenou rychlostí jednosměrku zobousměrnit.
| 