Laureátom prvého ročníka súťaže AI Awards – Trustworthy AI sa stal zdravotnícky startup AI:Dental, ktorý je zameraný na interpretáciu röntgenových snímok v zubnom lekárstve. Špeciálnu cenu hodnotiacej komisie získal startup TrollWall, ktorý vyvíja systém na automatickú identifikáciu a skrývanie toxických či vulgárnych komentárov na sociálnych sieťach. Vyhlásenie cien prebehlo vo štvrtok na Forbes Business Feste.
„Dôraz na dôveryhodnosť AI je veľmi dôležitý, lebo umelá inteligencia sa dostáva do každodenného života všetkých z nás,“ povedal CTO AI:Dental Peter Jurkáček. „Ešte dôležitejší je tento aspekt v zdravotníctve. Ak by sa zubári a lekári príliš spoliehali na výsledky AI, mohli by poškodiť pacienta v prípade, že by AI bola nepresná.“
Práve toto riziko sa snaží AI:Dental odstrániť, pokračuje CTO. „Dbáme na to, aby nevznikla takzvaná overreliance, prílišné spoliehanie sa na výsledky AI. Keď AI integrujeme do klinickej praxe, študentov o tejto problematike vzdelávame. Je to dôležité preto, aby zdravie pacienta zostalo na prvom mieste.“
AI:Dental získal ocenenie AI Awards, Foto: Marek Mucha
AI:Dental získal ocenenie AI Awards, Foto: Marek Mucha
Dôraz na flexibilitu a študentov
AI:Dental mal byť pôvodne projektom pre študentov a študentky zubného lekárstva, ktorý im mal pomôcť s čítaním röntgenových snímok. Myšlienka sa zrodila okolo roku 2019 v hlave spoluzakladateľky a spolumajiteľky slovensko-švajčiarskej pobočky pre predaj pomôcok ústnej hygieny Curaprox Lucie Paškovej a jej biznisového partnera Pavla Andela.
So spoločnosťou Aston ITM vyvinuli prototyp edukačnej aplikácie, ktorý neskôr prilákal investora – švajčiarsky Curaden. „Medicínski odborníci sú pomerne konzervatívni, keď ide o využívanie technológií. Väčšinou to, čo sa naučia používať na univerzite, používajú celý život. Často sú v tejto oblasti ľudia málo flexibilní, preto chceme pracovať už so študentmi,“ vysvetľovala ešte pri spúšťaní startupu Pašková.
Dnes je už vyše roka vedenie startupu v rukách CEO Blaženy Ambróz Sedrovičovej, Petra Jurkáčka a ich päťčlenného tímu, ktorý sedí v Bratislave. Aktuálne pracujú so štyrmi tímami na vývoji softvéru, ako aj so skupinou odborníkov a medzinárodných univerzitných koordinátorov.
Ich biznisový model dnes stojí na dvoch nohách – edukačnej aplikácii pre študentov zubného lekárstva, ktorá je už sprístupnená, a vývoji umelej inteligencie, ktorá aktuálne ešte čaká na získanie certifikácie ako medicínsky nástroj, takzvaný CE mark.
„Máme za sebou pilotný štart na Lekárskej fakulte Univerzity Komenského v Bratislave, vo Viedni, spúšťame univerzitu v americkej Louisiane a v najbližších týždňoch aj v Dubaji. V rámci vývoja AI spolupracujeme napríklad aj s indickými univerzitami, ktoré budú čoskoro aktívne používať aj našu edukačnú aplikáciu vo vzdelávacom procese,“ vymenúva Ambróz-Sedrovičová.
Ocenenie AI Awards, foto: Marek Mucha
Ocenenie AI Awards, foto: Marek Mucha
Etika v AI startupe
Aj keď majú medicínske a health tech startupy na Slovensku už tradíciu, Ambróz-Sedrovičová zdôrazňuje, že s podnikaním v segmente ide ruka v ruke aj získavanie povolení, certifikácií, právne úkony a zodpovedanie etických otázok.
„Röntgenová snímka je v zubnom lekárstve osobný údaj, podobne ako napríklad rodné číslo. Pri zbere osobných údajov je potrebné, aby pacient podpísal súhlas o poskytovaní dát. Práve preto zbierame iba také dáta, ktoré tieto súhlasy majú,“ vysvetľuje proces zberu dát technický riaditeľ startupu Peter Jurkáček.
V rámci ochrany osobných údajov dáta tzv. „pseudoanonymizujú“. Znamená to, že na každej snímke ponechávajú len dáta potrebné na diagnostiku, teda vek, pohlavie a etnikum, čo sú kľúčové parametre, ktoré pri diagnostike potrebujú.
Odstraňujú všetko, čo by mohlo byť použité pri identifikácii pacienta, napríklad rodné číslo, dátum narodenia aj meno pacienta. Klinika môže okrem toho vymazať pacientske dáta z AI:Dental v prípade, ak sa pacient rozhodne stiahnuť svoj súhlas.
Milión popísaných patológií
Ku koncu mája 2024 disponovali viac ako päťtisíc takto spracovanými röntgenovými snímkami s približne jedným miliónom posudkov rôznych patológií, čo je podľa ich slov počet, ktorý potrebujú na získanie potrebného CE marku, aby mohli svoju AI spoplatniť.
„Keďže ide o reálne zdravotné dáta, nemôžeme školu len požiadať, aby nám ich vydali. Je tu právna časť a zároveň zasadá etická komisia. Celý proces trvá niekoľko mesiacov, ale na jeho konci sa dostávame ku kvalitným dátam,“ zdôrazňuje Ambróz-Sedrovičová s tým, že sa vybrali náročnejšou cestou.
Blažena Ambróz Sedrovičová a Peter Jurkáček z AI:Dental. Foto: Marek Velček
Blažena Ambróz Sedrovičová a Peter Jurkáček z AI:Dental. Foto: Marek Velček
Na trhu sa totiž dá dostať aj k datasetom, ktorých reálnosť nie je možné overiť, rovnako ani spôsob, ako sa dostali do obehu a či pacient vôbec súhlasil s poskytnutím tretím stranám. „Často sa stretávame s tým, že keď im povieme, ako to robíme, tak nám ľudia z ‚fachu‘ tvrdia, že si robíme nadprácu,“ dodáva CEO.
Najprv certifikácia, potom možno aj chatbot
V najbližšom období sa startup plánuje sústrediť na získanie certifikácie pre diagnostickú AI – teda nástroja, ktorý by mal pomáhať zubným lekárom, ale aj študentom interpretovať a porovnávať röntgenové snímky.
Ako dodáva Jurkáček, zaoberajú sa aj implementáciou jazykových modelov, vďaka čomu by v edukačnej aplikácii mohli vyvinúť priamo chatbota, akýsi poradný orgán pre budúcich zubárov v reálnom čase.
Navyše pracujú aj na funkcii podobnej Google Lens, teda vyhľadávaču obrázkov. Vďaka nej by mohli študenti vyhľadávať v systéme snímky s podobnými patológiami a na základe už existujúcich prípadov vnímať problematiku, ktorú práve budú riešiť.
Špeciálna cena: stena proti trollom
Špeciálne ocenenie hodnotiacej komisie, zloženej z členov Stálej komisie pre etiku a regulácie umelej inteligencie zriadenej Ministerstvom investícií, regionálneho rozvoja a informatizácie SR, získal startup TrollWall.
Jeho softvér zjednodušuje identifikáciu a odstraňovanie nenávistných komentárov na sociálnych sieťach. V TrollWalle vyvinuli vlastný NLP (natural language processing) klasifikačný model, ktorý deteguje toxické a vulgárne komentáre.
Predtrénovali ho na viacjazyčných dátach, aby vedel rozumieť textu vo viacerých jazykoch a „rozumel“ lokálnemu kontextu pre všetky podporované jazyky. „Dokáže vyhodnotiť desaťtisíce až státisíce komentárov v priebehu sekúnd. Počas histórie používania skontroloval milióny komentárov a niekoľko miliónov nenávistných prejavov skryl,“ hovorí spoluzakladateľ startupu Tomáš Halász.
Aktuálne je TrollWall dostupný v piatich európskych jazykoch, na ďalších lokalizáciách pracuje. Pridanou hodnotou, ktorú klientom ponúka, je jednak samotné odstránenie toxicity z diskusií na sociálnych sieťach a vďaka nemu aj následné zvýšenie reputácie, či už ide o mimovládne organizácie, médiá, firmy a podobne.
AI Awards ako ocenenie pre dôveryhodnú AI
AI Awards – Trustworthy AI vyhľadáva a oceňuje organizácie alebo jednotlivcov, ktoré vyvíjajú a implementujú systémy AI na princípe dôveryhodnej a na človeka orientovanej AI, pričom chce otvoriť diskusiu o etických otázkach, ktoré sa týkajú vplyvu AI na ľudí.
„Dôveryhodná AI nie je len súbor pravidiel a štandardov, ale dôležitý krok k budovaniu technológií, ktoré sú vyvíjané zodpovedným spôsobom. Cieľom AI Awards – Trustworthy AI je oceniť a podporiť iniciatívy, ktoré idú touto cestou,“ povedala Mária Bieliková, generálna riaditeľka Kempelenovho inštitútu inteligentných technológií (KInIT).
Požiadavky na dôveryhodnú AI
- ľudský faktor a dohľad
- technická odolnosť a bezpečnosť
- správa súkromia a údajov
- transparentnosť, rozmanitosť
- nediskriminácia a férovosť
- spoločenský a environmentálny blahobyt
- zodpovednosť
Zdroj: Etické usmernenia pre dôveryhodnú umelú inteligenciu podľa expertnej skupiny pre AI, zriadenej európskou komisiou (AI HLEG)
Laureát získa verejné ocenenie za zodpovedný rozvoj a používanie AI, umelecké dielo
vytvorené sochárom a maliarom Milanom Lukáčom, propagáciu svojho systému AI v sieti slovenských inovátorov prostredníctvom Európskeho centra digitálnych inovácií – Hopero a odborné a nezávislé hodnotenie svojho systému AI odborníkmi na umelú inteligenciu.
Finalistami prvého ročníka sa stali aj biometrická firma Innovatrics, zdravotnícky startup Powerful Medical a tech firma, ktorá bojuje proti dezinformáciám, Gerulata Technologies.
