Riešite svoje zdravotné problémy s umelou inteligeciou? Toto by ste mali vedieť

Keď vás bolí bok alebo vášmu dieťaťu pulzuje palec na nohe a vy neviete prečo – alebo čo s tým robiť – zavoláte lekára, alebo sa spýtate svojej obľúbenej umelej inteligencie na diagnózu a plán postupu?

Technológia umelej inteligecie je široko dostupná len niekoľko rokov, ale mnoho ľudí si ju však čoraz častejšie  na riešenie svojich zdravotných problémov. Prieskum z marca, pre zdravotnú politiku KFF, o ktorom píše CNN zistil, že každý tretí dospelý Američan uviedol, že sa už s umelou inteligenciou poradil ohľadom svojho zdravia. Najpoužívanejšiu umelú inteligenciu v USA, ChatGPT, používa 44 % dospelých Američanov a tvorca OpenAI tvrdí, že sa na ňu každý týždeň obracia viac ako 300 miliónov ľudí na celom svete, aby im odpovedala na zdravotné otázky.

Niekoľko spoločností už tiež uľahčilo Američanom nahrávanie zdravotných záznamov a údajov z nositeľných zariadení, takže program môže ponúkať zdravotné informácie na základe vecí ako sú lekárske poznámky, laboratórne výsledky, váš počet krokov, jedálniček a množstvo spánku.

Ide to však ešte ďalej -  OpenAI minulý týždeň oznámila, že pre používateľov v USA spúťa možnosti nahrávavania svojich zdravotných záznamov a používania ChatGPT na dôkladnejšie sledovanie zmien v ich zdraví. Dokonca ponúka návody na liečbu pre ľudí, ktorí majú špecifické problémy, ako je napríklad nízka hladina železa.

Väčšina respondentov v prieskume KFF uviedla, že majú obavy o súkromie pri zdieľaní takýchto citlivých údajov s poskytovateľmi AI, ale 41 % z tých, ktorí kládli otázky o zdraví, uviedlo, že nahrali svoje osobné zdravotné informácie.

Prečítajte si tiež

AI sa pri bezpečnostnom teste vymkla kontrole. Kyberneticky napadla inú firmu

​Niektorí odborníci tvrdia, že nahrávanie citlivých zdravotných záznamov by malo byť osobnou voľbou a že dôverujú sľubom spoločností, že zdravotné záznamy budú uchovávať v súkromí. Mnohí iní sú však opatrnejší a  skeptickí pri zverovaní svojho zdravia umelej inteligencii.

Zľahčuje príznaky a chce vyhovieť?

Jednou z pochybností, ktorú majú vedci v súvislosti s používaním umelej inteligencie v zdravotníctve, je, že jej odpovede môžu znieť presvedčivo, aj keď poskytujú zlé rady. Programy však môžu stále halucinovať a robiť chyby.

Marcový prieskum KFF zistil, že 41 % opýtaných uviedlo, že umelú inteligenciu používajú na lepšiu informovanosť pri návšteve lekára, ale najmä kvôli rýchlym a okamžitým radám. A približne každý piaty uviedol, že umelú inteligenciu používa, pretože nemal lekára alebo si jednoducho nemohol dovoliť termín. Odhaduje sa, že v roku 2023 sa približne 100 miliónov Američanov nedokázalo dostať  k všeobecnému lekárovi, pretože v ich komunite  je príliš málo.

Umelá inteligencia úspešne absolvovala skúšku na získanie lekárskej licencie v USA(!) a spoločnosť OpenAI minulý týždeň uviedla, že najnovšiu verziu ChatGPT hodnotili stovky klinických lekárov a že jej modely „sú teraz schopné uvažovať na úrovni ľudských klinických lekárov alebo lepšie“.

Umelá inteligencia však stále nie je dokonalá. Má predsudky týkajúce sa rasy a pohlavia, ktoré ovplyvňujú jej rady. Je v podstate vytvorená tak, aby vyhovovala používateľovi, takže bude znieť zdvorilo a presvedčivo, aj keď sa mýli. V niektorých prípadoch môže dokonca prehliadnuť vysoko rizikovú núdzovú situáciu a niekomu povedať, aby zostal doma, namiesto toho, aby okamžite vyhľadal pomoc, a to môže byť nebezpečné.

Štúdia z roku 2023 publikovaná v časopise JAMA Oncology zistila, že staršia verzia ChatGPT poskytovala nevhodné odporúčania na liečbu rakoviny vo viac ako tretine(!) výziev, ktoré výskumníci vytvorili. A na rozdiel od prípadov, keď pacienti položia otázku na Googli a dostanú niekoľko odpovedí, umelá inteligencia poskytne iba jednu odpoveď a istota programu sťažila odhalenie nesprávnych odporúčaní, uviedli autori štúdie.

Ďalší výskumníci, ktorí v štúdii publikovanej vo februári v časopise Nature Medicine použili opisy stoviek zdravotných scenárov od lekárov, uviedli, že nástroj OpenAI robil chyby a zľahčoval určité život ohrozujúce okolnosti vrátane príznakov astmatických záchvatov a diabetickej ketoacidózy, čo je stav, keď telo nemá dostatok inzulínu na fungovanie. V mnohých z týchto prípadov program neodporučil ísť na pohotovosť, hoci lekári povedali, že by toto odporúčanie určite dali.

Spoločnosť v tom čase uviedla, že štúdia neodráža, ako sa ChatGPT všeobecne používa alebo je navrhnutý tak, aby fungoval v reálnom svete, a uviedla, že pracuje na zlepšení bezpečnosti a spoľahlivosti.

V štúdii si ChatGPT Health poradil lepšie pri klasických problémoch, ako je mozgová príhoda alebo anafylaxia, ale keď ľudia zľahčovali príznaky, umelá inteligencia tiež inklinovala k menej naliehavým odporúčaniam.

Prečítajte si tiež

Odborníčka: Pozor na vysoký tlak, porážku kvôli nemu dostávajú aj športovci v strednom veku

​Alvira Tyagi, študentka medicíny, ktorá pracovala na štúdii KFFi, chcela zistiť, či by ChatGPT Health poskytol presnejšie odpovede, ak by sa jej položilo viac otázok. Hovorí však, že ju prekvapilo, že „nedošlo k výraznému zlepšeniu výkonu v porovnaní s jednou interakciou“.

„Bola som ohromená a myslím si, že je neuveriteľné, že čím dlhší bol rozhovor, tým horší bol, čo je podľa mňa opäť veľmi ohromujúci výsledok, keďže by ste si mysleli, že keď dáte nástroju stále viac a viac informácií, môže sa zlepšiť, a to jednoducho nebol tento prípad,“ povedal Tyagi.

Kardiológ Bob Wachter však verí, že systémy umelej inteligencie sú čoraz presnejšie a hovorí, že zlepšenie zaznamenal po nahraní svojich zdravotných záznamov.

„Zapôsobilo na mňa, že si všimla pomerne jemné veci, keď som sa pýtal na nový zdravotný príznak. Prezeralo si moju predchádzajúcu zdravotnú dokumentáciu a pravdepodobne to robilo lepšie ako lekár, pretože odhadujem, že moja predchádzajúca zdravotná dokumentácia má niekoľko sto strán,“ povedal.

Čo je potrebné vedieť o súkromí? 

Nemocnice a lekárske ordinácie musia dodržiavať etické kódexy a pravidlá, ktoré chránia citlivé zdravotné informácie pacientov a súkromie, ale umelá inteligencia nie je viazaná rovnakými prísnymi pravidlami . V USA,ani v Európe nemajú žiadny komplexný zákon o ochrane súkromia užívateľov AI, hoci ustanovenia spoločností zaoberajúcich sa umelou inteligenciou obsahujú niekoľko prísľubov týkajúcich sa súkromia.

Spoločnosti Anthropic, ktorá vyrába Claude for Healthcare ; Microsoft, ktorý vyrába Copilot Health ; Perplexity ; a OpenAI tvrdia, že ponúkajú súkromie a bezpečnú interakciu s vašimi zdravotnými údajmi. Konverzácie sú šifrované a spoločnosti tvrdia, že vaše údaje nepoužívajú na trénovanie svojich modelov ani na cielenie reklám na vás. Spoločnosti tiež sľubujú, že môžete kedykoľvek odpojiť svoje zdravotné záznamy a informácie z Apple Health; OpenAI tvrdí, že údaje zo svojho systému vymaže do 30 dní.

„Nikdy by som svoje údaje nezverejnil súkromnému subjektu bez väčšej záruky dôvernosti alebo pochopenia toho, ako ich budú chrániť pred únikmi, a bez jasnejšieho pochopenia toho, čo sa stane v prípade hackerského útoku alebo náhodného úniku,“ povedal Dr. Art Caplan, bioetik , emeritný profesor a bývalý vedúci oddelenia lekárskej etiky na Grossman School of Medicine na NYU.

Bez lepších zákonov regulujúcich umelú inteligenciu a zdravotné údaje sú podľa neho tieto údaje zraniteľné a môžu byť použité spôsobom, ktorý nezamýšľate. Poukazuje na príklad spoločnosti 23andMe, ktorá sa zaoberá priamym genetickým testovaním pre spotrebiteľov a v roku 2023 došlo k masívnemu úniku údajov, pričom boli odhalené osobné, genetické a zdravotné údaje takmer 7 miliónov zákazníkov.

Keď spoločnosť v roku 2025 vyhlásila bankrot, predala genetické údaje 15 miliónov zákazníkov neziskovej organizácii, ktorú založil jej zakladateľ a federálne zákony jej v tom nezabránili.

„Právna a etická infraštruktúra na spracovanie všetkých týchto informácií a na spracovanie osobných a citlivých informácií zatiaľ neexistuje,“ povedal Caplan.

Dr. Girish Nadkarni, nefrológ na Mount Sinai, ktorý študuje využitie umelej inteligencie v zdravotníctve, povedal, že by pomohlo nezávislé overenie, že spoločnosti neškolia na základe údajov o pacientoch.