Souhrn
Zakladatelé technologického startupu, jehož aktuální tržní hodnota dosahuje jedné miliardy dolarů, přiznali, že jejich první „AI řešení“ ve skutečnosti nebylo založeno na umělé inteligenci, ale na ruční práci zaměstnanců, kteří se vydávali za automatizovaný systém. Tento přístup, známý jako „fake it till you make it“, se stal virálním na LinkedInu a vyvolal debatu o etice a udržitelnosti podobných praktik v tech sektoru.
Klíčové body
- Startup na začátku používal lidské operátory, kteří ručně zpracovávali data a odpovídali zákazníkům, přičemž vydávali výstup za výsledek AI.
- Cílem bylo získat zpětnou vazbu od uživatelů a definovat požadavky pro budoucí skutečný AI model.
- Po několika letech vývoje a sběru dat společnost skutečně nasadila funkční AI systém.
- Příběh vyvolal kritiku i obdiv – někteří vidí v takovém přístupu pragmatický způsob validace trhu, jiní etické riziko.
- Společnost dosáhla ohodnocení jedné miliardy dolarů a získala významné investice od renomovaných VC firem.
Podrobnosti
Podle zprávy Business Insideru zakladatelé startupu v rané fázi vývoje vytvořili fiktivní AI nástroj, který měl pomáhat firmám s analýzou schůzek a generováním souhrnů. Ve skutečnosti však za „AI“ stáli lidé, kteří poslouchali nahrávky, dělali poznámky a ručně vytvářeli výstupy. Tento postup jim umožnil rychle testovat tržní poptávku, sbírat uživatelská data a iterovat návrh skutečného algoritmu. Až po několika měsících nasadili první verzi skutečného modelu založeného na strojovém učení. Tento přístup není v tech světě zcela neobvyklý – podobné metody použily například i společnosti jako Amazon (Mechanical Turk) nebo v raných fázích i některé chatbotové platformy. Nicméně záměrné vydávání lidské práce za AI bez transparentního upozornění uživatelům vyvolává otázky ohledně důvěryhodnosti a regulace v oblasti AI.
Proč je to důležité
Tento případ ilustruje rostoucí tlak na startupy, aby prezentovaly inovativní AI řešení, i když skutečná technologie ještě není připravena. Zároveň ukazuje, jak důležitá je kvalitní trénovací data pro vývoj efektivních AI modelů. Na druhou stranu však takové praktiky podkopávají důvěru ve skutečné AI produkty a mohou vést k regulacím, jako je například evropský AI Act, který vyžaduje transparentnost ohledně toho, zda uživatel komunikuje s člověkem nebo strojem. Pro uživatele a podniky to znamená, že je třeba být obezřetní při výběru „AI řešení“ a požadovat jasné informace o skutečných schopnostech daného systému.
Zdroj: 📰 Business Insider
| 