Napnutým zdravotním systémům možná nakonec uvolní kapacity chatboti, umělá inteligence [AI]. Mladá generace si je oblíbila a přistupuje k nim i kriticky. Někteří chatboti jsou navíc i velice opatrní co lidem při zdravotních obtížích poradí.
Sotva 18letá Adéla, studentka třetího ročníku všeobecného gymnázia, si chatbota oblíbila. Docela běžně s ním komunikuje nejen témata do školy, ale stále častěji s ním probírá i zdravotní potíže.
„Při silných menstruačních bolestech mě uklidní. Doporučí mi teplý obklad na břicho, odpočinek a při neustupujících bolestech pak léky na tlumení bolesti,“ říká, co konkrétně s chatbotem například naposledy probírala.
AI jí mimo jiné i vyjasní, kdy je třeba určitě navštívit lékaře. A to proto, že i v jejím případu, kdy jde o opakující se bolestivou a silnou periodu, by se mohlo jednat třeba o endometriózu. A to by si nikdo nepřál, dodá.
„Nedávno se mi na lýtku objevil kožní výrůstek o velikosti asi 2,5 mm a chatbot mi nejprve řekl, že může jít o bradavici či jiný neškodný kožní výrůstek. Ale kdyby se to zvětšovalo, bolelo, měnilo barvu, pak že mám jít k dermatologovi,“ popisuje další nedávnou zkušenost, kdy konzultovala zdravotní otázku s chatbotem, Adéla.
Říká, že v komunikaci se jí zdá automatizovaný chatbot „velmi opatrný“. U kožního útvaru jí hned na začátku upozornil, že by ho měla pečlivě sledovat. A komunikaci ukončil tím, že při jakékoli jeho změně má zajít ke kožnímu specialistovi, který jí poradí, co s tím dál dělat.
Chatboty mají lidé pořád k ruce a za jejich rady neplatí
Svým způsobem je potěšující, že chatbot Adéle dal doporučení, která se blíží lékařským doporučením v prevenci zhoubných nádorů kůže. Podle nich mají lidé mateřská znaménka stejně jako jiné kožní výrůstky na kůži pravidelně kontrolovat. A lékaře vyhledat v případě, že znaménko mění barvu, tvar, ohraničení nebo při jeho vyvýšení.
Obdobně je to i u její opakovaně bolestivé a silné menstruaci doporučují. I lékaři doporučují speciální vyšetření, zda žena netrpí endometriózou. To je časté gynekologické onemocnění žen v reprodukčním věku, které ale pokud se neléčí, může vést k neplodnosti. Navíc ženy trpící endometriózou svou periodu často doslova protrpí v krutých bolestech.
Hrozbou AI je, že zapomeneme, co je být člověkem, varuje filozofka
Mladá studentka ale upozorňuje, že ba chatbota se docela běžně obrací i s kosmetickými otázkami. Anebo i s tím, jak zapůsobit na své okolí.
„Pomohl mi řešit akné, měla jsem drobné pupínky, výsev na čele. A řekl mi, že na to pomáhá volně prodejná látka. A ta mi opravdu pomohla,“ říká s tím, že stejně jako ona používají chatboty i její spolužáci.
Mimo to vzpomíná, že s ním kdysi řešila, jak zhubnout, jaký přeliv na vlasy zvolit. I to, jak působit na lidi více sebevědomě, aby ji respektovali.
„Nedávno jsem mu posílala snímek obličeje a dostala jsem doporučení, jak se líčit, jaký make-up zvolit a jaká barva na vlasy se ke mně hodí nejvíc,“ popisuje dále.
Běžné zdravotní potíže lidé řeší rádi s chatboty
Obdobně používají dnes chatboty lidé napříč generacemi. Šíře zdravotních i lifestylových témat a otázek kladených chatbotovi svědčí o tom, že lidem pomáhá úspěšně řešit běžné zdravotní obtíže. A šetří tím čas a významné finanční prostředky. A to nejen rodinám, ale i veřejnému zdravotnictví. Mladá studentka od chatbota ví, že má sledovat nový kožní útvar, zda nemění barvu nebo tvar. V opačném případě má rychle vyrazit do ambulance lékaře.
Obdobně jí pomohl s akné, které zanechává stopy na nejednom dospívajícím. Dívka by s tímto problémem zřejmě nešla ke svému praktikovi, ale díky radě chatbota se teď cítí lépe, sebevědomě, a zřejmě i lépe prospívá ve škole. Stejně tak od chatbota dostala několik rad, jak se zbavit ostychu před vrstevníky nebo o tom, jak tlumit bolestivou menstruaci.
„Vím dobře, že je to robot a jeho doporučení a rady beru s rezervou. Ale je mi vždycky ku pomoci a nemusím se nikam objednávat, nikde čekat a nic za jeho rady neplatím,“ říká Adéla na otázku, zda si uvědomuje rizika spojená s AI, jejím „rádcem“ chatebotem.
Zdravotní otázky na AI jsou rizikem
Zatímco běžní uživatelé si chatboty vesměs pochvalují, odborníci, lékaři, jsou k jejich užívání především co se týče otázek týkajících se zdraví, hodně zdrženliví. Například hlavní lékař Anglie profesor Sir Chris Whitty letos začátkem roku uvedl, že chatboty lidé hodně používají, ale odpovědi na jejich otázky kolem zdraví „nebyly dostatečně dobré“. Podle něj jsou příliš sebevědomé a mnohdy i nepřesné a chybné. Doporučení a rady chatbotů jsou podle profesora Whittyho nekvalitní, napsal britský server BBC.
Ten odkazuje i na výsledky výzkumu jedné z laboratoří na Oxfordské univerzitě, kde se zabývali kvalitou zpracování odpovědí chatbotů týkajících se mírných zdravotních obtíží až po závažné s nutností návštěvy pohotovosti nebo přivolání záchranné služby.
„Když jsme chatbotům poskytli kompletní obraz, byli z 95 % přesní. Byli úžasní, vlastně téměř dokonalí,“ uvedl k testování chatbotů profesor Adam Mahdi.
Vědci testují americký stetoskop s AI. A hovoří o skvělých výsledcích
Pak ale přistoupili k testování, kdy asi 1 300 lidí dostalo scénář, o kterém si měli s chatbotem povídat, aby ten vyhodnotil diagnózu a radu. A tam už byly výsledky podstatně horší. Přesnost v tomto případě propadla podle prof. Mahdiho na zhruba 35 procent. Ve dvou třetinách případů lidé dostali špatnou diagnózu nebo doporučenou péči.
„Když lidé mluví, popisují své potíže, sdílejí informace postupně, něco vynechávají, jsou rozptýlení, špatně se soustředí,“ říká, co hlavně sehrává roli v komunikaci.
Odkazuje k jednomu ze scénářů testování, který popisoval příznaky mrtvice způsobující krvácení do mozku. Jde o život ohrožující stav s nutným zásahem lékaře. Jen drobné rozdíly v tom, jak lidé příznaky chatbotovi popsali, způsobily, že jim chatbot doporučil klid na lůžku.
Lidé chatbotům důvěřují, a to je chyba, tvrdí odborník
Vedoucí výzkumník doktor Nicholas Tiller uvádí, že umělá inteligence je navržena tak, aby odpovídala na položené otázky jasně a sebevědomě.
„A to v lidech vyvolává pocit důvěryhodnosti, a ti pak předpokládají, že musí dobře vědět, o čem mluví,“ vysvětluje.
Tiller říká, že s technologií, která je navržena tak, aby predikovala text na základě jazykových vzorců a nyní ji veřejnost používá pro zdravotní poradenství, je „zásadní problém“. Myslí si, že chatbotům by se měli lidé v oblasti zdravotních rad vyhýbat, pokud nemají odborné znalosti na to, abyste poznali, kdy umělá inteligence odpovídá špatně.
Neověřené AI Health nástroje můžou vnést chaos do zdravotnictví
A zřejmě to ví i samotní vývojáři nejznámějších chatbotů. Například OpenAI, která vyvinula ChatGPT, ve svém prohlášení uvedla následovné:
„Víme, že se lidé obracejí na ChatGPT se zdravotními dotazy, a bereme vážně potřebu, aby odpovědi byly co nejspolehlivější a nejbezpečnější.“
Společnost tvrdí, že chatbota stále vylepšuje, testuje, a spolupracuje přitom s klinickými lékaři. Proto, jak uvádí, její modely fungují dobře v reálných zdravotních hodnoceních.
„I s těmito vylepšeními by ChatGPT měl být používán pro informační a vzdělávací účely. Nikoli k nahrazení odborné lékařské rady,“ uvádí jasně ke svému chatbotovi OpenAI.
Veronika Táchová
