Souhrn
Britská finanční regulační autorita FCA upozorňuje maloobchodní zákazníky na nová rizika vyplývající z agentic AI, které autonomně rozhoduje a jedná. Velké banky jako NatWest, Lloyds a Starling připravují testování této technologie u zákazníků, s očekávaným spuštěním na začátku roku 2025. FCA se zavazuje chránit zájmy spotřebitelů prostřednictvím stávajících pravidel.
Klíčové body
- Agentic AI se liší od generativní AI tím, že nejen generuje obsah, ale plánuje, rozhoduje, vykonává úkoly, učí se a adaptuje podle stanovených cílů.
- Britské banky NatWest, Lloyds (tradiční velkobanky) a Starling (digitální banka zaměřená na mobilní bankovnictví) spolupracují s FCA na testech pro koncové zákazníky.
- Podle šéfky datového oddělení FCA Jessicy Rusu se první aplikace objeví na trhu na začátku roku 2025, přičemž autonomní rychlost AI zvyšuje rizika finanční stability.
- Výzkumná firma Gartner predikuje, že do konce roku 2026 bude 40 procent firem ve finančních službách používat AI agenty.
- FCA aplikuje pravidla jako senior managers regime (režim odpovědnosti vrcholového managementu) a consumer duty (povinnost vůči spotřebiteli) k zajištění odpovědnosti.
Podrobnosti
Agentic AI představuje posun od současného generativního AI, které na základě uživatelských pokynů vytváří text, kód nebo obrázky, k systému schopenému samostatně plánovat akce. Například může přesouvat nečinné prostředky do výnosnějších účtů, upravovat investiční portfolia v reakci na pohyby trhu nebo automatizovat rozpočtování a spoření. Tato autonomie umožňuje rychlé rozhodování, což banky vidí jako revoluci v interakci se zákazníky, ale zároveň zvyšuje rizika.
Britské banky přecházejí od interního použití AI v back-office (zpracování dat, compliance) k přímému nasazení u koncových uživatelů. NatWest, jedna z největších britských bank s miliony klientů, Lloyds, tradiční gigant s širokou retailovou sítí, a Starling, moderní digitální banka bez poboček zaměřená na rychlé mobilní služby, již spolupracují s FCA. Testy pro zákazníky by měly startovat brzy v roce 2025, jak uvedla Jessica Rusu, šéfka datového oddělení FCA. „Všichni uznávají, že agentic AI přináší nová rizika, především kvůli rychlosti akcí,“ řekla Rusu pro Reuters. Autonomie a interakce s dalšími AI agenty mohou ohrozit finanční stabilitu, governance a ochranu zákazníků.
FCA plánuje použít existující nástroje: senior managers regime, které osobně odpovídá vrcholové manažery za chyby, a consumer duty, které nutí firmy klást zájmy klientů na první místo. To znamená, že banky budou muset prokázat, že AI rozhodnutí prospívají zákazníkům, nejen maximalizují zisky. Zatímco banky vedou v pilotech, Gartner varuje, že široká adopce přijde do roku 2026, což vyžaduje rychlou regulaci.
Proč je to důležité
Závod v agentic AI mezi britskými bankami ukazuje, jak se autonomní systémy rychle prosazují do kritické infrastruktury jako je bankovnictví, kde chyby mohou vést k masivním ztrátám. Pro uživatele to znamená potenciálně lepší služby, jako automatizované investování, ale i rizika neočekávaných transakcí kvůli halucinacím AI nebo interakcím agentů. V širším kontextu posiluje to roli regulátorů v AI ekosystému – FCA model může inspirovat EU nebo USA k podobným opatřením. Pokud banky dosáhnou 40procentní adopce do 2026, jak predikuje Gartner, agentic AI se stane standardem, což nutí přehodnotit odpovědnost za autonomní rozhodování v regulovaných odvětvích.
Zdroj: 📰 The Times of India
