Umelá inteligencia dnes hľadá poškodenia koľajníc, kontroluje röntgenové snímky pacientov, odhaľuje poistné podvody aj píše básne. Pavol Bielik je spoluzakladateľom startupu, ktorý overuje, či je AI nastavená správne a nespôsobí straty na životoch či obrovské škody na majetku.
Koncom októbra získala firma LatticeFlow, ktorú spoluzaložil Pavol Bielik, od investorov 12 miliónov dolárov na ďalší rast. Pre Forbes.sk prezradil, ako sa dostal k IT, kde sa v súčasnosti umelá inteligencia využíva a čo rieši firma zameraná na jej kontrolu.
Ako ste sa dostali k programovaniu a informatike?
Odmalička som mal rád matematiku a bavilo ma riešiť technické problémy. Naopak, slovenčina mi na škole veľmi nešla, tak som sa prihlásil na jediné gymnázium v Bratislave, ktoré nemalo prijímacie skúšky zo slovenského jazyka – Gamču na Grösslingovej ulici.
Bola to dobrá voľba, pravidelne sme riešili zaujímavé úlohy a boli sme fajn partia. Každé dva týždne sme dostali od profesora zadania a po víkendoch sme sa stretávali so spolužiakmi a snažili sa prísť na riešenie. Bolo to veľmi zábavné.
Najlepšia technika v Európe
Pamätáte si ešte na prvý program, ktorý ste napísali?
To si už asi nespomeniem. Ale pamätám si, že keď prišlo do módy sudoku, napísal som program, ktorý automaticky dopočítal chýbajúce čísla.
Vyštudovali ste ETH (Spolková vysoká škola technická) v Zürichu, čo je aktuálne zrejme najlepšia technická škola v Európe. Ako ste sa tam dostali?
Nad zahraničím som najskôr vôbec nepremýšľal, mal som na Slovensku veľa kamarátov a silné zázemie, tak som zvažoval len slovenské a české školy. Napokon som si vybral Fakultu informatiky a informačných technológií STU v Bratislave, kde som vyštudoval bakalársky stupeň.
Popri škole sme sa však s kamarátmi zapojili do súťaže Microsoft Imagine Cup a zo zaujímavosti sme sa išli pozrieť na celosvetové finále v New Yorku. Tam som zistil, že by bolo vzrušujúce skúsiť študovať na niektorej z najlepších škôl sveta.
Prezident Andrej Kiska na návšteve ETH v Zürichu, Pavol Bielik po jeho pravici. Foto: archív P. Bielika
Prečo ste si vybrali ETH Zürich?
Patrí medzi desať najlepších univerzít na svete, je to relatívne blízko zo Slovenska a nie je tam také šialené školné ako na univerzitách v USA alebo Veľkej Británii. Za mesiac štúdia som platil asi sedemsto eur.
Apka, ktorá vedie deti k cvičeniu
Vzhľadom na prestíž školy a počet uchádzačov o štúdium boli prijímacie skúšky zrejme veľmi náročné…
Prijímacie skúšky na ETH nerobia, posiela sa len životopis. To znamená, že musíte na sebe konzistentne pracovať a byť aktívny priebežne, nestačí sa krátkodobo dobre pripraviť na jednu skúšku.
Škola dokonca sleduje aj prospech prijatých študentov a ich výsledky zohľadňuje pri prijímacom konaní iných študentov z rovnakých škôl. Mne najviac pomohlo, že som uspel na medzinárodných súťažiach, to ma odlíšilo.
Myslíte účasť na Imagine Cup? S čím ste vlastne súťažili?
Áno, aj to. Získal som tiež cenu Asociácie pre výpočtovú techniku za najlepšiu študentskú prácu. Vymysleli sme s tímom zo školy aplikáciu, ktorá podporovala pohyb a cvičenie detí.
O čom bola?
Deti sa rady hrajú na smartfónoch, tak sme vymysleli mobilnú apku, v ktorej za pohyb získavali body alebo „coiny“ potrebné do rôznych hier. Najväčšia výzva bola, ako presne odmerať kde a koľko sa dieťa hýbe a či sa nepokúša oklamať systém.
O apke sme neskôr vydali aj vedecký článok, ktorý som prezentoval na medzinárodnej vedeckej konferencii International Health Informatics Symposium. Asi aj to mi pomohlo získať miesto na ETH.
Najlepšia veda je praktická
Ako ste sa dostali k umelej inteligencii?
Vždy som rád robil na praktických projektoch. Preto som mal šťastie, že som na ETH spoznal profesora počítačových vied Martina Vecheva z Bulharska. Robili sme spolu napríklad výskum, ktorého výsledkom bol program na identifikáciu chýb v aplikáciách pre Android.
Urobili sme webstránku, kde si mohol ktokoľvek zadarmo nahrať svoju apku, náš analytický softvér ju skontroloval a dokázal odhaliť veľmi častý druh systémovej chyby, konkrétne konflikt, keď sa program snaží robiť súčasne niekoľko vecí naraz.
Prezentácia na workshope DataCentric AI, ktorý organizovala Univerzita v Stanforde a ETH Zurich. Foto: archív P. Bielika
Na čo konkrétne ste pritom využili umelú inteligenciu?
V podstate na všetkých projektoch, na ktorých som pracoval, sme čelili problému práce s množstvom dát. V tomto prípade sme napríklad analyzovali tisíce aplikácií, aby sme presne vedeli, ako s nimi ľudia interagujú a podobne.
AI dokáže efektívne vyriešiť mnohé problémy. Namiesto toho, aby som vymýšľal komplikovaný algoritmus, vezmem dáta a dám ich AI, aby to vyriešila za mňa.
To znie ako čarovný prútik. Skúste to vysvetliť.
Ak hovoríme o umelej inteligencii, v skutočnosti sa bavíme o podskupine, ktorá sa dnes masívne využíva v rôznych odvetviach a volá sa neurónová sieť. Je to algoritmus, ktorý vie analyzovať obrovské množstvo dát, napríklad obrázkov zvierat, a vlastnými cestami sa naučiť, či je na obrázku mačka, pes alebo hroch. Je to úplne iný prístup k riešeniu, ako sa používal dlhé roky.
Napríklad?
Ešte na začiatku milénia sa softvér na preklad cudzích jazykov robil tak, že si spolu sadli lingvisti a rozbili jazyk na kategórie a pravidlá. Z tých sa potom programátori snažili poskladať návod, ako má softvér postupovať, aby preložil anglickú vetu na slovenskú.
Zhruba v roku 2007 sa zasekli a nevedeli dosiahnuť skutočne kvalitný preklad, programy stále opakovali rovnaké chyby. Tento prístup totiž nedokázal zachytiť pestrosť a komplexnosť jazyka, milióny výnimiek či kontext.
Pokroky umelej inteligencie
Čo na tom zmenila umelá inteligencia?
Potom prišli na trh počítače, ktoré vládali pracovať s neurónovými sieťami, tak to vývojári skúsili otočiť. Povedali programu – toto je veta v angličtine, toto je veta v slovenčine, tu máš dvadsať miliónov viet v oboch jazykoch a nájdi si tam vzorce a pravidlá sám. Výsledok si vie každý pozrieť, napríklad v prekladači od Google.
Je to revolúcia umelej inteligencie, tá situácia je bezprecedentná. Jediný typ algoritmu – neurónová sieť – dnes dokáže riešiť problémy v rôznych oblastiach. Používa sa na rozpoznávanie obrázkov, na prevod hovorenej reči na text, na predikcie mikrovývoja burzy, na ovládanie dronov a podobne. A nikde nepotrebujete experta na danú oblasť, AI sa naučí sama.
Pred rokom ste spolu s kolegami z univerzity založili firmu LatticeFlow, ktorá už od investorov získala takmer 15 miliónov eur na ďalší rast. Čo konkrétne robíte?
To, že neurónové siete dnes môžete nasadiť kdekoľvek, má aj svoje nevýhody. Firme dnes stačí, aby si zadarmo stiahla softvér od Google alebo Facebooku, prenajala si ich počítače a môže si vytrénovať AI na vlastné potreby. Nakŕmi ich dátami a zadá požadované výstupy. Akurát pri nasadení v reálnom živote im výsledný matematický model často nefunguje a nevedia prečo. A väčšina modelov sa do produktívnej fázy ani nedostane.
Čím to je?
Situácie v reálnom svete sú oveľa rozmanitejšie ako obsiahnu dáta, ktoré firmy používajú na tréning. Náš výskum na univerzite bol zameraný na analýzu matematických modelov, aby sme vedeli povedať, čo funguje, čo nie a prečo.
Venujeme sa tomu už desať rokov, preto firmy začali chodiť za profesorom Martinom Vechevom, aby im pomohol. Keďže ako univerzita sme na to mali obmedzené možnosti, založili sme spin-off LatticeFlow.
O aké firmy ide?
Hoci sme vo Švajčiarsku, miestnych firiem máme medzi klientmi len málo. Nie preto, že by sme Švajčiarov nemali radi, ale preto, že je to globálny problém a chodia za nami firmy z celého sveta. Mám pocit, akoby sa dnes firmy rozdelili na dve skupiny – tie, ktoré na využití neurónových sietí pracujú, a tie zvyšné, ktoré ešte len premýšľajú, ako ich využiť.
Kde všade AI pomáha
Z akých oblastí ekonomiky máte zákazky?
Banky napríklad využívajú AI na spracovanie dokumentov a zjednodušenie administratívy. Papiere automaticky naskenujú, dokumenty prevedú na PDF formát, AI dokáže rozoznať, čo je v nich napísané a prevedie obrázok na text. Prečíta takto napríklad faktúru a nahodí ju do systému.
Prezentácia firmy na najväčšej konferencii rádiológov na svete ECR’22 vo Viedni. Foto: archív P. Bielika
V nemocniciach AI kontroluje skeny pacientov, napríklad pľúc. Každú snímku si pozrú dvaja doktori, aby bola zabezpečená krížová kontrola a neprehliadli zhubný nález. Po nich snímky prejde ešte AI, ktorá je vytrénovaná na miliónoch snímkov pľúc iných pacientov, a keď nájde podozrivé vzorky, zaradí ich na opätovnú kontrolu.
Ďalšie zákazky máme v poisťovníctve – umelá inteligencia napríklad analyzuje fotky búraných vozidiel od poistencov a automaticky vypočíta výšku škody a poistky. Netreba nikam voziť auto, zamestnanec k nemu nemusí chodiť. AI je vytrénovaná na miliónoch fotiek poškodených áut a vie rozoznať, o aký druh a rozsah škody ide, prípadne aj to, či ide o poistný podvod.
Pracovali sme tiež na projekte pre švajčiarske železnice. Na vlakoch majú zospodu namontované kamery, ktoré robia digitálne snímky koľajníc a AI zisťuje, či na oceli nie je poškodenie či únava materiálu.
Na stavbách zase kamery monitorujú, či majú ľudia oblečené reflexné vesty, helmy a ďalšie ochranné prostriedky. Snímky priebežne hodnotí AI a keď zistí porušenie bezpečnosti pri práci, spustí alarm.
Ako týmto firmám dokážete pomôcť?
Ľudia, ktorí trénujú tieto modely umelej inteligencie, používajú náš softvér, aby vedeli AI lepšie natrénovať. Prípadne za nami prídu s tým, že nasadili algoritmus do praxe, ale prestal im fungovať a nevedia prečo.
Výchova umelej inteligencie
Čím býva nefunkčnosť spôsobená?
Možností je veľa. Kameru, na ktorej AI trénovala, posunuli na stavbe o meter doľava alebo bola trénovaná v suchom počasí a začalo pršať. Alebo na snímkovanie pľúc v nemocnici kúpili nový senzor, ktorý robí snímky vo vyššom rozlíšení.
V prípade poisťovne AI „pokazil“ ľudský prst. Je totiž bežné, že človek pri fotení malého škrabanca alebo preliačiny na aute na ne ukáže prstom. Ak AI zachytila na obrovskom počte fotiek so škrabancom prst, ktorý je v porovnaní s tenučkou ryhou oveľa väčší a na fotke dominantný, potom ho zaradí medzi podstatné prvky, ktoré neskôr hľadá aj pri posudzovaní nových prípadov hlásenej škody. Keď ho nenájde, poistnú škodu nevidí.
Stáva sa tiež banálna vec, že vstupné dáta, na ktorých sa AI učí, majú chyby, ľudia ich zle označia, rôzne vyhodnotia a podobne.
Nemal by algoritmus ignorovať prípady, ktoré nastanú len zriedka?
Áno aj nie. Tým, že reálny život je veľmi pestrý, existuje veľa rôznych situácií, ktoré môžu nastať. Každá sa sama osebe vyskytuje vzácne, ale spolu je týchto rôznych, výnimočných situácií priveľa na to, aby ich algoritmus vedel pri učení prehliadať. Volá sa to „long tail“ (dlhý chvost, pozn. red.) v dátach.
Pavol Bielik s Vintonom Cerfom, jedným z „otcov internetu“ na Heidelberg Lauerate Forum 2016. Foto: archív P. Bielika
Ak ich spočítame dokopy, môže ich byť v štatistickom súbore 5 až 10 percent. Máme skúsenosť, že firmy dokážu vytrénovať AI tak, že funguje na 60-70 percent správne, nasadia ju a po čase, ako pribúdajú tie vzácne situácie, AI začína kopiť zlé rozhodnutia. Vtedy sa obrátia na nás.
Vy teda viete automatizovane odhaľovať takéto chyby v systéme?
To je to, o čo sa snažíme. Šetríme firmám týždne manuálnej práce, ktoré by ich programátorov čakali, keby chceli chybu v terabajtoch dát hľadať manuálne.
Zo školy do sveta biznisu
Baví vás prechod z akademického sveta do biznisu?
V tomto projekte je vplyv mojej práce na reálny život neporovnateľný so všetkým ostatným, čomu som sa doposiaľ venoval. Mohol by som si určite vybrať aj prácu pre niektorého z klientov, no snažíme sa vybudovať firmu, ktorá dokáže pomôcť všetkým.
Rovnakému problému by sme sa mohli ďalej venovať aj ako výskumníci na akademickej pôde a postupne prinášať výsledky nášho bádania. No vďaka financiám od investorov dokážeme pomôcť už dnes a nie, povedzme, o päť rokov.
Kolegovia, s ktorými ste firmu zakladali, boli na škole vašimi učiteľmi, ktorí výskum v tejto oblasti začali. Vy máte vo firme pozíciu CTO a dokonca spoločníka. Čím ste si toto výnimočné postavenie získali?
Nerozmýšľal som nad tým. Verím projektu, ktorý sa snažíme riešiť, a veľmi mi na tom záleží. Je fajn, že ako spolumajiteľ mám veľké slovo v tom, čo firma robí, a viem ovplyvniť jej smerovanie. Súčasne cítim veľkú zodpovednosť.
Je to aj o tom, ako sa snažíme viesť firmu. Všetci zamestnanci majú firemné akcie a slovo každého má váhu. Sme na hranici výskumu a produktu, preto by bolo len na škodu, keby sme sa hrali na jedného osvieteného, ktorý bude ostatným hovoriť, čo majú robiť. Skladáme to spolu.
Ako od založenia firmy žijete?
No, ako spoluzakladateľ startupu. Celý deň pracujem a keď sa dá, snažím sa trochu pospať. Dovolenku som nemal niekoľko rokov, robím aj po víkendoch a mal by som viac času venovať rodine.
Kto je Pavol Bielik (32)
- Absolvent počítačových vied FIIT STU v Bratislave získal titul inžiniera (MSc.) a doktoranda na ETH v Zürichu. Špecializuje sa na strojové učenie a programovacie jazyky.
- V roku 2017 získal vďaka svojim výsledkom ako jediný Európan štipendium Facebook Fellowship, rok predtým prestížny Rombergov grant od Heidelberg Laureate Forum.
- Je autorom viacerých vedeckých publikácií v oblasti umelej inteligencie.
- V roku 2021 založil spolu s bulharským výskumníkom Petarom Tsankovom a dvoma profesormi zürišskej ETH spoločnosť LatticeFlow, ktorá opravuje nefunkčné programy umelej inteligencie. Firma doposiaľ získala od investorov 14,8 milióna eur, vrátane investorského fondu FPV Wesley Chana, tvorcu Google Analytics.
- Pavol Bielik je ženatý a má jedno dieťa.
