Systémy umelej inteligencie budú podliehať prísnejším požiadavkám, niektoré typy použití AI by mali byť dokonca zakázané. Vyplýva to z politickej dohody štátov Európskej únie na finálnom znení Aktu o umelej inteligencii.
V najbližších mesiacoch bude predpis ešte schvaľovať Rada EÚ a Európsky parlament. V pondelok o tom informoval odbor komunikácie Ministerstva investícií, regionálneho rozvoja a informatizácie SR. „Hlavným cieľom je zabezpečiť, aby AI systémy boli dôveryhodné, etické a v súlade so základnými právami a hodnotami,“ uviedol rezort.
Niektoré druhy využitia AI zakážu
Akt o umelej inteligencii stanovuje záväzné pravidlá a požiadavky pre AI systémy, akými sú napríklad vysoko rizikové systémy používané v kritických infraštruktúrach, zdravotníctve, doprave a orgánmi činnými v trestnom konaní. Podľa ministerstva investícií budú tieto druhy AI systémov podliehať prísnejším požiadavkám. „Niektoré typy použití AI, ako napríklad biometrická kategorizácia, vzdialená biometrická identifikácia v reálnom čase, využitie kamerových systémov pri rozširovaní databáz tvárí či rozpoznávanie emócií, budú dokonca úplne zakázané,“ priblížil rezort.
Zákazy by sa mali týkať aj praktík, ktoré môžu manipulovať s ľuďmi podprahovými technikami alebo zneužívať zraniteľné miesta určitých skupín, napríklad detí, s cieľom poškodiť ich fyzické alebo psychické zdravie. „Okrem toho sa zavádzajú požiadavky na transparentnosť pre generatívne systémy umelej inteligencie, ktoré vytvárajú obsah alebo interagujú s ľuďmi, ako je napríklad ChatGPT. Tieto požiadavky majú zabezpečiť to, aby bolo jasné, že obsah bol vygenerovaný AI, a poskytnúť záruky proti generovaniu nelegálneho obsahu,“ vysvetlil štátny tajomník ministerstva investícií Ivan Ivančin.
Schválenie predpisu o umelej inteligencii (AIA) v Európskom parlamente sa podľa rezortu očakáva ešte pred voľbami do europarlamentu. „Niektoré ustanovenia AIA chrániace pred zakázanými použitiami AI systémov vstúpia pritom do účinnosti už šesť mesiacov od jeho oficiálneho zverejnenia,“ uviedlo ministerstvo s tým, že ostatné ustanovenia začnú platiť po 12 až 24 mesiacoch od zverejnenia.
