Podľa najnovšej štúdie dávajú najznámejšie AI jazykové modely, ako ChatGPT, Grok a Gemini, nesprávne odpovede v polovici otázok týkajúcich sa zdravia a kritických chorôb.
Jedným z najsľubnejších odvetví, kde sa už teraz prejavuje vplyv umelej inteligencie a veľkých jazykových modelov, je medicína.
AI využívajú popredné nemocnice a univerzity na pomoc pri diagnostike a aj pri operačných výkonoch. Lekári v ambulanciách ju zase zapájajú do administratívnych úloh.
Pacienti však AI využívajú na konzultáciu svojich zdravotných problémov s umelou inteligenciou. Stále viac ľudí sa pri zdravotných problémoch radí s ChatGPT alebo podobným nástrojom umelej inteligencie.
Je tu však zásadný problém. Podľa najnovšej štúdie sa AI a jazykové modely v polovici odpovedí o zdravotných problémoch a kritických chorobách mýlia. Štúdia odhalila aj to, pri ktorých chorobách poskytuje AI najpresnejšie odpovede. S ktorou zákernou chorobou vám poradí najlepšie?
Doktor AI vás prijme
AI sa čoraz viac stáva súčasťou našich životov a je iba prirodzené, že ju využívame aj pri zdravotných otázkach. Najmä ak nám pri iných oblastiach nášho života dáva presné odpovede a zefektívňuje našu prácu. Je však otázne, či by chatboty mali poskytovať odpovede na alternatívne liečby rakoviny, ktoré môžu pacienta skôr poškodiť.
Štúdia zverejnená v BMJ Journals, ktorú priniesol portál The Conversation, ukazuje, že napriek svojmu pokroku poskytuje AI v oblasti zdravia stále problematické odpovede.
Chatboty ChatGPT, Gemini, Grok, Meta AI a DeepSeek dostali po 50 otázok z oblasti zdravia a medicíny, ktoré zahŕňali rakovinu, vakcíny, kmeňové bunky, výživu a športový výkon. Dvaja experti nezávisle ohodnotili každú odpoveď.
Zo zistení expertov vyplýva, že takmer 50 percent odpovedí bolo problematických, až 20 percent odpovedí bolo vysoko problematických a 30 percent bolo mierne problematických. Ani jeden z chatbotov nevygeneroval presný zoznam citovanej literatúry a iba pri dvoch z 250 otázok chatboty odpoveď priamo odmietli. Obe odmietnutia prišli od Meta AI a to pri otázkach na steroidy a alternatívnu liečbu ako náhradu voči chemoterapii.
Najlepšie pri rakovine
Najhoršie z chatbotov dopadol Grok, pričom 58 percent jeho odpovedí bolo označených za problematické, nasledoval ChatGPT (52 %) a Meta AI (50 %).
Úspešnosť sa však líšila podľa témy. Chatboty zvládali najlepšie vakcíny a rakovinu. Teda oblasti s rozsiahlym a dobre štruktúrovaným vedeckým výskumom.
No aj tam produkovali problematické odpovede v zhruba štvrtine prípadov. Najviac zaváhali pri výžive a športovom výkone. Podľa odborníkov vďaka tomu, že sú to témy, pri ktorých je na internete veľké množstvo protichodných rád a kde je nedostatok jasných vedeckých dôkazov.
Ďalšia štúdia ukázala, že miera zlyhania umelej inteligencie presiahla 80 percent v prípadoch, keď dostala zadanie s nejednoznačnými symptómami, ktoré mohli zodpovedať viac než jednej diagnóze. Pri priamočiarejších prípadoch, ktoré zahŕňali nálezy z fyzikálneho vyšetrenia a výsledky laboratórnych testov, stále zlyhávala v 40 percentách prípadov.
Experti tiež zistili, že veľké jazykové modely, na rozdiel od skutočných lekárov, majú tendenciu upnúť sa na jednu diagnózu.
Rady od jazykových modelov využíva podľa serveru Futurism štvrtina Američanov, čo je viac ako 60 miliónov ľudí. Až 27 percent tvrdí, že to robí z dôvodu, že nechce platiť lekárovi.
Lekári využívajú AI stále viac
Podľa Americkej medicínskej asociácie (AMA) už v súčasnosti dve tretiny lekárov pri svojej práci využívajú umelú inteligenciu, a to vrátane administratívnych úloh, ale aj pri pomoci s diagnostikou. V porovnaní s rokom 2023 je to nárast o 78 percent.
Iba štvrtina lekárov priznala, že má z využívania AI obavy. Celkovo 35 percent lekárov uviedlo, že ich nadšenie pre umelú inteligenciu v zdravotníctve prevyšuje ich obavy, čo je nárast oproti 30 percentám v predchádzajúcom roku.
„Prieskum AMA ukazuje, že lekári sú čoraz viac fascinovaní asistenčnou úlohou zdravotníckej AI a potenciálom nástrojov s podporou AI znižovať administratívnu záťaž, zvyšovať presnosť diagnostiky a personalizovať liečbu,“ uviedol bývalý prezident AMA Jesse M. Ehrenfeld.
