Nedávno schválený zákon o umelej inteligencii z dielne Európskej únie je prvou legislatívou svojho druhu na svete. Experti snahu nastaviť bezpečné mantinely pre AI napospol vítajú. Zo súkromného sektora však zaznievajú aj obavy, že ďalšia regulácia v digitálnom priestore ešte viac pridusí technologický pokrok v Európe.
„AI musí byť regulovaná a Európa si zaslúži veľké uznanie, že v tejto oblasti koná ako prvá. Ostatné regióny však budú pozorne sledovať čo funguje a čo nie,“ hovorí v rozhovore pre Forbes Jeremy Rollison, šéf sekcie európskej politiky v Microsofte.
Tunajšie technologické firmy podľa neho môžu vo finále z jasne nastavených pravidiel ťažiť. Porovnáva to s telekomunikačným štandardom GSM, ktorý vznikol v 90. rokoch v Európe a postupne sa stal globálnou normou.
„Európske firmy zo zjednoteného štandardu ťažili, podľa mňa to bol kľúčový faktor skorších úspechov spoločnosti Nokia na trhu výrobcov mobilných telefónov,“ myslí si styčný dôstojník Microsoftu s Bruselom, ktorý predtým pôsobil na podobnej pozícii práve vo fínskej Nokii.
Rollison vyše 20 rokov vedie kampane v oblasti európskej verejnej politiky a balansuje záujmy súkromných firiem so záujmami Európskej únie v digitálnej oblasti. Riešil ochranu súkromia, kybernetickú bezpečnosť, duševné vlastníctvo a v podstate všetko, čo je možné v súčasnosti obsiahnuť súslovím umelá inteligencia.
„Európsky biznis má byť historicky na čo hrdý. Medzi zavedenými firmami aj startupmi cítime veľa nadšenia aj pre AI a najmodernejšie technológie,“ uvádza Rollison.
Dusí Európska únia svojou reguláciou európsky technologický pokrok?
Neviem, či by som to nazval práve takto. Bolo to určite rušných päť rokov pravidiel v digitálnom priestore. V tomto volebnom cykle bolo počuť veľa európskych hlasov a ich obáv z prílišnej regulácie a dopadu na konkurencieschopnosť od našich európskych zákazníkov, stakeholderov alebo európskych hláv štátov. To však nie je kompletný obraz.
Pripadá mi, že sa nevedie dostatočná debata o štýle regulácie, na ktorom záleží. Najmä keď sa pozerám na digitálny priestor a umelú inteligenciu. Pri AI sme celkom jasne povedali, že je to technológia, ktorá musí byť regulovaná.
Európa si však zaslúži veľké uznanie za to, že v tejto oblasti koná ako prvá. Najmä keď ide o niečo tak rýchlo sa meniace, ako je AI. Na princípoch a na jasnosti záleží a ostatné regióny pozorne sledujú, čo funguje a čo nie.
Len si hovorím, či to nadšenie európskych technologických startupov, o ktorom hovoríte, bude stačiť, aby obstáli v medzinárodnom porovnaní…
Dobrá otázka, nadšenie nestačí. V Európe je na pracovnom trhu množstvo talentov, ľudí dôkladne oboznámených s najmodernejšou technológiou a potrebnými zručnosťami. Výzvou je, aby sa tie mozgy a nápady premenili na konkrétne benefity priamo tu v Európe, čo je podľa mňa prirodzený cieľ.
Ak sa to nedeje, prečo? Kvôli prístupu k samotným technológiám? Kvôli atraktivite prostredia inde? Na tieto otázky by sme sa mali viac pýtať komunity ľudí zo spomínaného talent poolu.
Čo presne v Microsofte robíte vy?
Je to množstvo diskusií so zodpovednými ľuďmi v Európskej únii. Spoločnosť má za sebou dlhú históriu dialógu s politikmi, určite sme počas nej robili chyby a myslím si, že je našou zodpovednosťou zdieľať to, čo sme sa počas tejto cesty naučili. V konštruktívnych debatách chceme pokračovať aj naďalej. Na mieste, ako je Brusel, kde sa reguluje mnoho oblastí, ktoré ovplyvňujú naše zákaznícke aktivity, máme povinnosť informovať o tom, čo vidíme na trhu.
Aká veľká je takáto operácia?
Sú to právni zástupcovia, právnici, inžinieri… Tí všetci vstrebávajú nové pravidlá, pretože sa, samozrejme, reguluje po celom svete, nielen v Bruseli. Môj tím je priamo na mieste, pri dôležitých konverzáciách. Snažíme sa pochopiť zámer politikov a prispievať do diskusie o zamýšľaných dôsledkoch opatrení. Nastavovanie a dodržiavanie predpisov bolo vždy dôležitou časťou firemnej kultúry v Microsofte na celom svete.
Do akej miery ste sa podieľali na zákone o umelej inteligencii?
Podobne ako väčšina firiem, ktoré boli aktívne v Bruseli, čo boli stovky a stovky spoločností. Kde sme mohli, tam sme sa zapojili, s ostatnými sme sledovali, čo sa deje, určovali, aký to môže mať na nás vplyv a politikom pomáhali riešiť niektoré problémy.
Foto: Microsoft
Foto: Microsoft
Rozumejú politici Európskej únie dostatočne technológii, okolo ktorej sa snažia nastaviť mantinely?
Na to, aby ste nejakú technológiu efektívne regulovali a dodávali k tomu efektívnu legislatívu, nemusíte byť práve najlepší odborník na túto technológiu. Ako politik musíte mať o oblasti povedomie, máte zodpovednosť k svojim voličom, chcete ich ochrániť pred škodami a rizikami. Nestačí sa spoľahnúť na jeden hlas, preto je dôležitý dialóg medzi politikmi a odborníkmi z priemyslu, občianskej spoločnosti aj iných vládnych agentúr naprieč rôznymi rezortmi.
Je zákon o umelej inteligencii formulovaný tak, že bude relevantný aj v budúcnosti?
Podľa mňa určite áno. Európska únia si bola veľmi dobre vedomá toho, že je prvá na svete a aké je ťažké trafiť správnu rovnováhu opatrení. Technológia postupovala veľmi rýchlo, ale únia tiež. Myslím si, že aj vďaka prístupu s dôrazom na najrizikovejšie oblasti zákon o umelej inteligencii v skúške času obstojí.
Pre tvorcov obsahu je kľúčovou otázkou ochrana autorských práv. Mali by sme im zjednodušiť možnosť, ako svoje diela vylúčiť z trénovacích dát pre generatívnu umelú inteligenciu? Je to vôbec možné?
To je fér otázka a bolo by skvelé, keby sa na ňu dalo odpovedať jednoducho. Povedal by som, že najmä v ére AI je dôležité, aby každý cítil, že má veci pod kontrolou. Je jedno, či ste tvorca alebo jednoducho iba občan. Chcete mať istotu, že máte kontrolu nad tým, čo sa deje s vašimi dátami alebo či sa o vás nerozhoduje bez vášho vedomia.
Sú oblasti, kde je nutné urobiť kompromis, ale v prvom rade musíte o tejto oblasti vedieť. Úloha politikov je určiť oblasti, ktoré sú práve teraz najdôležitejšie. Zásadné je však právo na ľudskú kontrolu. Že tieto systémy sú riadené ľuďmi, majú bezpečnostné brzdy a môžeme zaistiť potrebnú úroveň transparentnosti.
Keď dnes veľké jazykové modely a rôzne generátory obrázkov, videí alebo piesní pracujú tak, že nemožno detailne vysvetliť, ako dali dokopy konkrétnu podobu svojho výstupu, nie je to problém?
Rozumiem týmto obavám, ale nemyslím si, že je to nutne problém. Možno nepotrebujeme byť schopní na sto percent vysvetliť, prečo mi veľký jazykový model napísal práve túto báseň, ale určite potrebujeme poznať pozadie napríklad náborárskeho rozhodnutia, ktoré ovplyvnilo niečie práva. Diskusia by sa mala sústrediť na podstatné veci.
Nebolo by vhodnejšie mať to vyriešené pred širokou implementáciou generatívnej AI? Tak ako to napríklad Microsoft robí so svojím copilotom?
Tu je otázkou, ako veľmi rizikový a problematický môže byť výstup generatívnej AI. Medzi akademikmi sa, samozrejme, vedie debata o transparentnosti, ale v tomto priestore sú tam určité obmedzenia. Ja to rád porovnávam s lietaním. Tiež nevidím do technických detailov fungovania lietadla, ale potrebujem mať istotu, že ma do cieľa dopraví bezpečne. Ľudia si rozhodne zaslúžia istotu, že aj používanie generatívnej AI je bezpečné.
Ako sa za 20 rokov vášho pôsobenia v Bruseli menil prístup Európskej únie k novým technológiám?
Zmenil sa, a to veľmi, najmä po tom, ako sa moderné technológie stali neoddeliteľnou súčasťou každodenného života. V digitálnej oblasti je oveľa aktívnejšia, politiky je viac, a to sa rozhodne netýka len Európskej únie. Brusel sa trochu vzdialil lokálnej úrovni a jednotlivým štátom, ale v globálnom kontexte je to dobre, pretože prichádzajúce pravidlá budú ovplyvňovať celý kontinent.
Keď som začínal, boli to výzvy typu, prečo je zložitejšie naprieč hranicami legálne posielať MP3 súbory než fyzické CD. Dnes už sú tie kľúčové otázky, niektoré z nich ste spomenuli, úplne inde.
Keď podľa vás dnešnej Európskej únii patrí uznanie za to, že v oblasti AI koná ako vôbec prvá, pri akých technológiách sa jej v minulosti takýto prístup vyplatil?
Dobrý príklad je jej úspech pri budovaní GSM štandardu pre mobilné telefóny, ktorý sa stal globálnou normou. Myslím, že európske spoločnosti zo zjednoteného štandardu ťažili.
Stálo toto za úspechom fínskej Nokie, ktorá bola najväčším svetovým predajcom telefónov, kým ju nahradili iPhony od Apple?
Podľa mňa určite, ale v tomto nie som práve nezávislým pozorovateľom, pretože pred Microsoftom som v Nokii pracoval. Tento názor som však zastával ešte predtým, ako som tam nastúpil. GSM je skvelá story, ale je tu aj mnoho ďalších. Európsky biznis má byť na čo hrdý, stačí sa pozrieť do farmácie alebo priemyslu.
Článok vyšiel na Forbes.cz. Autorom je Marek Tomanka.
