Souhrn
OpenAI tento měsíc spustilo ChatGPT Health, specializovaný nástroj pro zdraví a wellness, který umožňuje uživatelům propojit své lékařské záznamy, wellness aplikace, nahrávat diagnostické snímky a interpretovat výsledky testů pro personalizované odpovědi. Tyto funkce slibují přesnější rady než standardní ChatGPT, ale chybí nezávislé testování a AI stále produkuje chybné informace. V Austrálii je nástroj dostupný pouze na čekací listině.
Klíčové body
- Podle dat z roku 2024 použilo AI 46 % Australanů, přičemž zdravotní dotazy tvoří jednu čtvrtinu týdenních požadavků pravidelných uživatelů ChatGPT.
- Studie ukazují, že téměř 10 % Australanů se ptalo ChatGPT na zdraví v posledních šesti měsících, zejména lidé s nízkou zdravotní gramotností nebo z neanglicky mluvících zemí.
- Generativní AI často poskytuje nebezpečné rady i při přístupu k lékařským záznamům; příklady zahrnují podnět k sebevražedným myšlenkám nebo chybné AI Overviews od Google.
- Většina informací pochází od OpenAI samotného, bez nezávislého ověření přesnosti a bezpečnosti.
- 39 % těch, kteří AI pro zdraví ještě nepoužili, zvažuje jeho využití.
Podrobnosti
ChatGPT Health rozšiřuje možnosti standardního ChatGPT o integraci osobních zdravotních dat. Uživatelé mohou propojit elektronické lékařské záznamy, data z fitness aplikací jako Fitbit nebo Apple Health, nahrávat rentgenové snímky či MRI a žádat o interpretaci krevních testů. Nástroj má generovat odpovědi přizpůsobené individuálnímu stavu, což by mělo zlepšit uživatelský zážitek oproti obecným radám. OpenAI, společnost zabývající se vývojem velkých jazykových modelů (LLM) jako GPT série, tvrdí, že tyto funkce zvyšují relevanci rad.
Přesto data z roku 2024 odhalují rostoucí závislost na AI pro zdravotní informace. V Austrálii 46 % obyvatel nedávno použilo AI nástroje, přičemž zdravotní témata jsou mezi nejoblíbenějšími. Globálně se jedna čtvrtina pravidelných uživatelů ChatGPT ptá na zdraví týdně. Naše studie z roku 2024 odhaduje, že 10 % Australanů se na ChatGPT obrátilo za radou v posledních šesti měsících. Tato tendence je výraznější u skupin s obtížemi přístupu k informacím: lidí z neanglicky mluvících zemí, těch, kteří doma mluví jiným jazykem, nebo osob s nízkou zdravotní gramotností. Mezi nepoužívajícími 39 % plánuje AI pro zdraví brzy vyzkoušet.
Problém spočívá v přesnosti. Nezávislé studie konzistentně ukazují, že generativní AI nástroje produkují nebezpečné zdravotní rady i při znalosti lékařských záznamů. Známé případy zahrnují ChatGPT, který údajně podněcoval sebevražedné myšlenky, nebo Google, který nedávno odstranil několik AI Overviews – shrnutí na vrcholu vyhledávání – kvůli chybným zdravotním doporučením. ChatGPT Health nebyl nezávisle testován, což zvyšuje rizika. V Austrálii zůstávají otázky ohledně souladu s místními předpisy o ochraně dat a odpovědnosti za rady. OpenAI poskytuje jen firemní informace, bez detailů o trénovacích datech nebo algoritmických limitech.
Proč je to důležité
ChatGPT Health urychluje trend integrace AI do zdravotnictví, kde už nyní miliony lidí hledají rychlé a soukromé rady. Pro uživatele to znamená snadnější přístup k personalizovaným informacím, ale i vyšší riziko škodlivých chyb, které mohou vést k nesprávnému sebe léčbě nebo odložení profesionální pomoci. V širším kontextu posiluje tlak na regulace: Evropa a USA již zavádějí přísnější pravidla pro AI v medicíně (např. EU AI Act), zatímco Austrálie čeká na lokální rámec. Pro průmysl to otevírá trh pro specializované AI, ale vyžaduje investice do validace a etických standardů. Bez nezávislého testování zůstává nástroj experimentální, což podtrhuje potřebu opatrnosti – AI nenahradí lékaře, ale může zesílit existující nerovnosti v přístupu k péči.
Zdroj: 📰 The Conversation Africa