Možno ste si všimli ostrú kritiku Európskej únie zo strany amerického viceprezidenta J. D. Vancea, s ktorou vystúpil na samite o umelej inteligencii v Paríži. Vance tam odsúdil európsku reguláciu umelej inteligencie ako bezohľadnú a vyhlásil, že „USA pôjdu opačnou cestou“.
Je európsky zákon o umelej inteligencii naozaj taký zlý? Usmernenia o zakázaných postupoch, ktoré Brusel zverejnil vo februári, môžu poskytnúť nápovedu.
Vysoké pokuty
Vysvetľujúci materiál k zákazom v takzvanom AI Act (nariadenie EÚ, ktoré stanovuje pravidlá pre vývojárov AI) nie je práve krátky, má celých 140 strán. Za porušenie zákazov hrozí vysoká pokuta, ktorú napríklad v susednej Českej republike vyrubí ministerstvo práce a sociálnych vecí, na Slovensku na to dohliada ministerstvo investícií, regionálneho rozvoja a informatizácie.
Nesprávne používanie alebo vývoj modelov a neurónových sietí, ktoré nerešpektujú tieto pravidlá, sa trestá pokutou vo výške 35 miliónov eur, teda približne sedem percent ročného obratu obrovských spoločností.
Zmena v umelej inteligencii
Samotné nariadenie je v platnosti od augusta 2024 a v plnej miere sa začne uplatňovať po dvoch rokoch, približne v lete 2026.
Pre mnoho globálnych hráčov v oblasti umelej inteligencie, ale napríklad aj pre prevádzkovateľov sociálnych sietí, to znamená úplnú zmenu spôsobu používania umelej inteligencie v EÚ. Americké spoločnosti, ako napríklad Meta Marka Zuckerberga, sa dokonca nechali počuť, že budú proti hroziacim sankciám bojovať.
Niektoré zákazy sú už dokonca vynútiteľné, napríklad zákaz používania systémov AI. Podľa Európskej únie predstavujú „neprijateľné riziko“, a tak sa začali uplatňovať vo februári tohto roka.
Na čo sa vzťahuje?
Kognitívna manipulácia ľudského správania, najmä ovplyvňovanie zraniteľných skupín, sa v Európe úplne rozmohla. Môžeme si to predstaviť ako hlasom aktivované hračky, ktoré podporujú nebezpečné správanie detí. Podobne sa umelá inteligencia nesmie zameriavať na starších ľudí, osoby so zdravotným postihnutím alebo osoby v ťažkej finančnej situácii.
Okrem toho je v EÚ úplne neprijateľné akékoľvek automatické sociálne bodovanie – klasifikácia ľudí na základe správania, sociálno-ekonomického postavenia alebo osobných charakteristík umelou inteligenciou, ako to možno poznáte zo známeho britského sci-fi seriálu Black Mirror.
Aj polícia má smolu. V EÚ je totiž zakázaná automatizovaná biometrická identifikácia pomocou umelej inteligencie (napríklad hľadaných osôb na letisku alebo prostredníctvom mestských kamerových systémov) a kategorizácia osôb v reálnom čase a na diaľku, okrem skutočne extrémnych výnimiek, ako je pátranie po teroristovi.
Limitovaná využiteľnosť
Systémy, pri ktorých identifikácia prebieha s výrazným oneskorením, budú povolené, ale len po schválení súdom na účely stíhania závažných trestných činov.
Zakázané sú aj nástroje známe fanúšikom sci-fi filmu Stevena Spielberga Minority Report. Umelá inteligencia nesmie za žiadnych okolností predpovedať, že niekto spácha trestný čin len na základe správania alebo osobnostného profilu. Prediktívne systémy AI jednoducho nepatria do Európy.
Záber z filmu Minority Report. Zdroj: Profimedia
Okrem toho nariadenie zakazuje používanie umelej inteligencie na analýzu emócií, či už zamestnancov na pracoviskách alebo študentov v školách, s výnimkou analýzy na lekárske účely.
Umelá inteligencia tiež nesmie analyzovať biometrické údaje a na základe získaných údajov kategorizovať ľudí podľa politickej príslušnosti, rasy, náboženstva alebo sexuálnej orientácie.
Spoločnostiam sa tiež prísne zakazuje zhromažďovať a používať umelú inteligenciu na hromadnú analýzu fotografií tvárí, či už z webu alebo možno z vlastných bezpečnostných kamier, s cieľom vytvárať databázy na rozpoznávanie tvárí.
Pre spoločnosti, ako je napríklad americká Clearview AI, ktorá sa venuje rozpoznávaniu tvárí pomocou AI a vytvára podobné databázy, to de facto znamená povinnosť úplne opustiť trh EÚ. Tejto spoločnosti bola mimochodom minulý rok v EÚ udelená vysoká pokuta za porušenie nariadenia o ochrane údajov.
Článok vyšiel na Forbes.cz. Autorom je Karel Wolf.
