Osobní údaje jako jméno a příjmení, rodné číslo či datum narození nebo informace z lékařské zprávy nepatří do běžně dostupných AI aplikací jako ChatGPT, Gemini nebo Claude. S těmito chaty je třeba mluvit vždycky anonymně.
A to hned z mnoha důvodů. Prvním z nich je ochrana citlivých údajů a minimalizace rizika jejich zneužití. To jak osobních dat, například o místu bydliště, datu narození, rodném číslu, tak zdravotních údajů. Například o tom, s jakými nemocemi a kde se uživatel léčí, jaké léky užívá a jaká zdravotní omezení případně má. Nic z toho se do chatovacího okna neuvádí a ani se to neříká přímo chatbotovi. Stejná opatrnost platí pro nahrávání například videí či fotografií z lékařské zprávy.
„Naším cílem je přistupovat k edukaci veřejnosti i zdravotníků zcela nízkoprahově a srozumitelně, aby každý věděl, že ačkoliv je AI skvělým pomocníkem například pro vysvětlení termínů, neměl by do ní nahrávat své citlivé osobní údaje bez anonymizace,“ potvrzuje Markéta Foldyna Hellová, vrchní ředitelka Sekce zdravotnických technologií na Ministerstvu zdravotnictví ČR [MZd ČR].
Neověřené AI Health nástroje můžou vnést chaos do zdravotnictví
Otevřené nástroje umělé inteligence, především chatboti, se rychle staly běžnou součástí života lidí. Ti s nimi denně konzultují zdravotní obtíže i to, jak se jich zbavit. To znamená, že nástroje AI i ve zdravotnictví [eHealth] předběhly dobu, kdy se s nimi měli lidé nejprve naučit pracovat. To proto, aby věděli, jak s nimi správně komunikovat, jak jim správně položit otázku a jak si správně vykládat i samotné odpovědi.
Doktor Google končí. Nemoci lidé řeší hlavně s chytrými chatboty
Tuto „mezeru“ by měla pomoci vyplnit nikoli rozsáhlá příručka „AI ve zdravotnictví pro pacienta“ připravená Českou společností pro umělou inteligenci a inovativní digitální technologie v medicíně a Českou asociací umělé inteligence [ČAUI] ve spolupráci s Ministerstvem zdravotnictví ČR. Manuál o tom, jak pracovat s AI technologiemi, nejen v řešení zdravotních otázek, je volně dostupný na stránkách ČAUI.
ChatGPT, ChatGPT Health a další AI technologie jsou vhodné pro následující:
- Vysvětlení složitých lékařských pojmů jednodušším a srozumitelným jazykem.
- Shrnutí rozsáhlých zpráv do několika bodů.
- Překlady cizojazyčných textů.
- Příprava otázek před návštěvou lékaře.
Chatovací platformy se nepoužívají pro následovné:
- Ke stanovení diagnózy bez návštěvy lékaře.
- K náhradě kvalifikovaného vyšetření.
- Pro nasazení léčby.
- Ke změně nebo vysazení lékové medikace bez konzultace s lékařem.
„Je nutné rozlišit využití AI jako zdravotního software – aplikaci , což může být například mobilní aplikace na kontrolu mateřských znamének. A využití jako zdravotního rádce, kdy používáme AI chatboty k radám o našem stavu,“ vysvětluje rozdíl, který udává přístup k využívání AI v eHealth, doc. David Zogala, místopředseda pro vzdělávání České společnosti pro umělou inteligenci a inovativní digitální technologie v medicíně ČLS JEP.
Zatímco AI technologie využívané ve zdravotnických zařízení musí splňovat přísné podmínky a jsou certifikovaným, tedy ověřeným zdravotnickým prostředkem, tak volně dostupné chatovací platformy jako ChatGPT či Geminy už nikoli. Jimi poskytnutá odpověď tak není ověřená odborníkem. A nikdo za její správnost nenese v podstatě odpovědnost.
„AI může být skvělý pomocník pro vysvětlení složitých termínů, nesmí však být primárním zdrojem informací. Lékař pracuje jiným způsobem. Velkým rizikem u AI může být také sdílení citlivých osobních údajů, které tam lidé zadávají,“ upozorňuje dále doc. Zogala.
Generativní AI, chatovací platformy, nevyšetřují a ani neurčují diagnózu. Tyto nástroje pouze vytvářejí odpovědi podle textů, ze kterých se učily. Anebo analyzují poskytnutá data.
–VRN–
