Souhrn
Poradenské společnosti čelí rostoucímu tlaku kvůli nekritickému nasazení umělé inteligence (AI) při tvorbě odborných analýz. Případ australské pobočky Deloitte ukazuje, jak AI generující falešné citace a neexistující zdroje může vážně poškodit důvěryhodnost renomované firmy. Zároveň však tyto společnosti výrazně investují do AI služeb pro klienty, což odhaluje vnitřní rozpor mezi využitím technologie pro vlastní efektivitu a jejím profesionálním nasazením.
Klíčové body
- Australská pobočka Deloitte použila AI k napsání 237stránkové analýzy sociálního systému, která obsahovala fiktivní citace a chybné informace.
- Skandál vyvolal politickou reakci a poškodil reputaci jedné z největších poradenských firem světa.
- Poradenský sektor zároveň masivně rozšiřuje kapacity v oblasti AI pro klienty, což vytváří napětí mezi vnitřním a externím přístupem k technologii.
- Chyby způsobené tzv. „halucinacemi“ AI odhalují rizika nekritického nasazení generativních modelů v odborných oborech.
Podrobnosti
V červenci 2025 zveřejnila australská vláda zprávu o revizi sociálního systému, kterou pro ministerstvo zaměstnanosti zpracovala místní pobočka Deloitte. Brzy poté však akademik Christopher Rudge z University of Sydney upozornil na závažné chyby: AI použitá při tvorbě dokumentu vymyslela neexistující vědecké studie a dokonce falešnou citaci z rozhodnutí soudu. Australská senátorka Barbara Pocock označila takové chování za „neodpovědné a amatérské“, přičemž zdůraznila, že podobné chyby by u studenta vedly k disciplinárnímu řízení. Deloitte následně zprávu tiše opravila a přiznala, že „některé poznámky pod čarou a reference nebyly správně ověřeny“.
Tento případ ilustruje širší dilema poradenského průmyslu. Zatímco firmy jako McKinsey, BCG nebo Accenture aktivně nabízejí klientům AI strategie, automatizaci procesů a implementaci LLM (large language models), uvnitř organizací často chybí jasné směrnice pro ověřování výstupů AI. Rostoucí tlak na snížení nákladů a zrychlení dodávek vede k tomu, že AI je nasazována i tam, kde vyžaduje hlubokou odbornost a faktickou přesnost – například v právních, ekonomických nebo politických analýzách.
Proč je to důležité
Případ Deloitte ukazuje, že i největší poradenské firmy nejsou imunní vůči rizikům spojeným s generativní AI. Pokud nebudou zavádět přísné procesy pro verifikaci AI generovaného obsahu, hrozí jim ztráta důvěryhodnosti, soudní spory a regulační zásahy. Zároveň se tím posiluje potřeba specializovaných nástrojů pro audit AI výstupů a vzdělávání odborníků v kritickém přístupu k technologii. Pro klienty to znamená, že musí požadovat transparentnost ohledně toho, jak a kde jsou AI nástroje v poradenských službách využívány.
Zdroj: 📰 Livemint
| 