Čo ak dokáže umelá inteligencia predpovedať vojnu skôr, než zaznie prvý výstrel? A čo ak ju to musia naučiť nielen dáta, ale aj ľudské predsudky, morálka a strach?
V novej epizóde podcastu Unicorn Buzz sme hovorili s Justinom E. Laneom, oxfordským vedcom a spoluzakladateľom CulturePulse, startupu so sídlom v Bratislave, ktorý simuluje celé spoločnosti a predpovedá konflikty s 95-percentnou spoľahlivosťou.
OSN ich privolala, keď potrebovala riešiť jeden z najťažších konfliktov sveta v Izraeli a Palestíne. A počas toho jeho kolegu zastavili na ozbrojenom kontrolnom stanovisku na Západnom brehu.
Napriek tomu hovorí, že najväčšou zbraňou jeho systému nie je technológia, ale pochopenie toho, čo robí ľudí ľuďmi.
„Najšpinavšie tajomstvo umelej inteligencie je, že takmer každý systém strojového učenia je zaujatý,“ hovorí Justin E. Lane.
Morálka. Nie emócie ako hnev alebo úzkosť, hoci aj tie hrajú rolu, ale práve morálne nesúlady. Morálku si človek nesie hlboko v sebe a nikto si ju nemôže kúpiť. Keď niekto zaútočí na vaše hodnoty alebo ich jednoducho nezdieľa, napätie vznikne okamžite. Toto vidíme konzistentne naprieč konfliktmi, ako aj v polarizácii na sociálnych sieťach.
Ako ste vôbec dostali do systému emócie a kultúrne rozdiely? Každý národ je predsa iný.
Ľudia síce vyrastajú v rôznych kultúrach, náboženstvách a tradíciách, ale základný softvér v mozgu máme všetci rovnaký. Každý sa bojí hlasných zvukov, každý rozpoznáva ľudské tváre, každý má putá s rodičmi. To sú veci, ktoré sme nevyvinuli učením, ale evolúciou. Ak túto architektúru vybuduješ, môžeš ju naplniť ktoroukoľvek kultúrou.
Hovoríte, že AI nemôže a ani nemá byť úplne objektívna. Ako to vysvetlíte bez toho, aby to znelo ako obhajoba zaujatých systémov?
Keby sme vytvorili AI systém, ktorý nie je nikdy zaujatý, nedokázali by sme predpovedať konflikt. Ani mier. Konflikty vznikajú práve pre ľudské predsudky a modely ľudí ich musia obsahovať tiež. Problém nie je predpojatosť v modeli, ale keď ju nasadíte do reálneho sveta bez toho, aby ste pochopili, čo ste vlastne stvorili.
Máte 95-percentnú mieru spoľahlivosti. Ako vyzerá tých päť percent, keď systém zlyhá?
Zvyčajne je to niečo, čo jednoducho nezverejníme. V konfliktných zónach je mimoriadne nebezpečné ukázať niekomu vzťah, ktorý nie je spoľahlivý, lebo na základe toho môžu urobiť politické rozhodnutie. Keď to spadne do tých piatich percent, upozorníme na to: tadiaľto nechoďte.
Archív Justina E. Lane
Váš spoluzakladateľ bol zastavený na kontrolnej stanici na Západnom brehu. Zmenilo vás to?
Kontrolné stanice na Západnom brehu sú ozbrojené a, áno, môže to byť o nervy, ale naučíte sa s tým pracovať. V Severnom Írsku som bol v situáciách s bývalými paramilitantmi, kde vás chráni len dôvera, ktorú ste si vybudovali cez spoločných ľudí. Bez ľudského kontaktu sa nedostanete nikam.
Projekt v Izraeli a Palestíne bol zastavený. Keby bol model plne funkčný pred útokom 7. októbra, myslíte si, že by sa mu dalo predísť?
My môžeme len poskytnúť informácie. Rozhodnutie je na tých, ktorí ich dostanú. Som si celkom istý, že náš model by pomohol lepšie pochopiť riziká konfliktu. V tom je historicky silný. Ale či sa tie poznatky použijú, to už nie je na nás. Tam naša práca „technickej podpory“ končí a začína sa práce v teréne.
Predpovedali ste problémy v Severnom Írsku po brexite mesiace pred tým, ako k nemu skutočne došlo. Čo presne model videl?
Pozreli sme sa na takzvané Peace Walls – fyzické múry, ktoré dodnes oddeľujú katolícku a protestantskú komunitu v Belfaste. Sú dnes vyššie ako v čase mierových dohôd. Keď sme modelovali rôzne varianty brexitovej hranice, zistili sme, že írska morská hranica aktivuje lojálnu komunitu, ktorá sa cíti zradená. Pozemná hranica zase aktivuje katolícku komunitu. Presne to sa aj stalo.
Čo ak vašu technológiu kúpi niekto s autoritárskymi zámermi?
Je to obava, s ktorou žijem od začiatku. Preto máme od roku 2022 v podmienkach spoločnosti zakotvené, že nepracujeme s organizáciami so záujmami v Rusku alebo Číne. Investori to vedia a vždy nás podporili, keď sme odišli od kontraktu. V prípade exitu budem pravdepodobne stále pri kormidle. Nedokážem si predstaviť, že by som bol od tejto technológie úplne odstrihnutý.
