AI nemá rozhodovať, či vykonať raziu v dome matky samoživiteľky, myslí si Stanislav Mikeš, partner v piatej najväčšej českej advokátskej kancelárii Skils. Opatrní pri jej zavádzaní však musia byť aj podnikatelia, ktorí čelia regulačným úskaliam a zložitým hodnotovým otázkam. Pri nesprávnom využití totiž môže ohroziť aj schopnosti zamestnancov.
„Bol som oveľa skeptickejší, teraz sa na ňu však pozerám skôr so skeptickým optimizmom,“ hovorí o umelej inteligencii Stanislav Mikeš, ktorý za esej o vzťahu umelej inteligencie k právu získal už pred siedmimi rokmi druhé miesto v súťaži Právnik roka.
„Pri zložitých prípadoch, ktoré majú viac vrstiev, kde sa musia hodnotiť pojmy ako ‚bez zbytočného odkladu‘, ‚primerane‘ alebo ‚spravodlivo usporiadať pomery‘, môže umelá inteligencia pôsobiť skôr ako akýsi kopilot,“ myslí si Mikeš.
AI už totiž dokáže spracovávať množstvo dokumentov a vytvárať z nich relatívne dobré zhrnutia. Vďaka tomu sa právnik môže viac venovať samotnej analýze – a keď si posudok detailne prečíta, nestráca čas písaním zhrnutia, ale len kontroluje správnosť vygenerovaného textu.
„Tieto nástroje sú v podstate lepšia lopata, ktorá vám pomôže byť efektívnejší a zvládať viac vecí. Pomáha to aj juniorným kolegom začať s riešením problému, ale že by to dokázalo riešiť prípady samostatne? V tom som skeptický,“ tvrdí advokát.
Podľa neho by mohla AI pomáhať aj sudcom, no aj u nich bude potrebné naďalej čítať prípady a dôkladne prechádzať vyjadrenia strán. „AI zostáva pomocníkom aj preto, že legislatíva je stále právom pre ľudí a o ľuďoch. A myslím, že tí nikam nezmiznú,“ približuje Mikeš.
To je podľa neho viditeľné napríklad na domových prehliadkach. Ak polícia vie, že v byte, kde ju chce vykonať, žije matka samoživiteľka s dvomi malými deťmi, vzniká otázka proporcionality.
„Je tá prehliadka pre prípad nevyhnutne potrebná? Alebo je dôležitejšie, aby deti netraumatizovalo policajné komando, ktoré tam vbehne? Myslím, že toto sú typické veci, ktoré by mal vždy posudzovať človek,“ podotýka autor novej knihy.
Flickr/TechCrunch
Na to, ako tieto otázky riešiť, existujú vo svete rôzne reakcie. „Napríklad v rámci USA vlastne federálna regulácia neexistuje. Každý štát pristupuje k definícii systému umelej inteligencie inak,“ hovorí odborník na právo moderných technológií.
Sme na tom v EÚ dobre?
Zaujímavé podľa neho bolo sledovať, čo ten-ktorý štát zdôrazňuje – jeden tvrdí, že umelá inteligencia je niečo iné než človek a nemožno ju stotožňovať s ľudskou bytosťou, iné zasa ponúkajú technické definície.
„V Európskej únii sme, myslím, schopní dobre definovať relatívne zložité právne pojmy,“ hovorí advokát. Pre krajiny EÚ to pri umelej inteligencii zabezpečuje takzvaný AI akt, na ktorom Mikeš oceňuje aj to, že odlišuje stroj od človeka.
Celkovo však advokát vníma európsku reguláciu v niečom ako nešťastnú a pri umelej inteligencii ako príliš extenzívnu v požiadavkách na bezpečnosť dát a informácie o tom, na čom sa modely školia. V EÚ tiež kladieme dôraz na to, aby systémy vedeli filtrovať určité typy informácií.
„Zregulovať musíme čokoľvek, aby sme sa vôbec mohli dopátrať k niečomu ďalšiemu,“ opisuje odborník prístup Európskej únie.
„V Amerike to takmer neexistuje, riešia tam viac vplyv a dôsledky. Majú tam voľnejší priebeh štýlom ‚ukážte, čo dokážete, na čo to bude‘. Ak zistia, že to nevedie k dobrým výsledkom, až potom sa začnú baviť o regulácii,“ vysvetľuje advokát.
Inšpirujme sa Amerikou
Podľa neho samotného by pritom nemuselo byť zlé zaviesť podobný prístup aj u nás a verí, že keby konkurenčné prostredie fungovalo dobre, množstvo problémov by sa mohlo vyriešiť aj v rámci súkromného práva.
Takáto tradícia je však typickejšia pre USA, kde už teraz prebieha napríklad spor medzi tvorcom ChatGPT, spoločnosťou OpenAI, a vydavateľom New York Times. Ten tvrdí, že na vycvičenie modelu spoločnosť OpenAI „vykradla“ jeho obsah. „Je to alternatívny model voči regulácii, ktorú si vymáha štát,“ domnieva sa Mikeš.
Kým sa teda chválime, že sme prví, ktorí prijímajú regulácie nových technológií, podľa Mikeša by bolo vhodné tej regulácie trochu ubrať a vydať sa cestou Spojených štátov, a to aj za cenu, že budeme trochu pozadu.
Odlišné podmienky na oboch trhoch pritom škodia podnikateľom. Medzinárodné korporácie sa podľa Mikeša síce prispôsobia, no niektoré produkty sa najprv dostanú na americký trh a na ten európsky buď vôbec, alebo so zdržaním, pretože tam je potrebné vyhovieť regulácii.
Samotným korporáciám však rozhodne nevyhovuje udržiavať napríklad dve rôzne verzie systému, ale nejako sa s tým vysporiadajú a náklady jednoducho rozpočítajú. „Otázkou skôr je, či to nebrzdí menšie spoločnosti, ktoré by chceli konkurovať veľkým hráčom, ale musia naraz splniť obrovské množstvo regulácií,“ zamýšľa sa advokát.
Menšie firmy, ktoré by mali dobrý produkt a chceli sa na trhu presadiť, sa totiž musia výrazne venovať plneniu regulačných požiadaviek, ktoré veľkým hráčom neprekážajú. Tí síce budú mať o niečo nižší zisk, ale podľa Mikeša sa s reguláciou vždy nejako vysporiadajú.
Striptíz
„Napríklad AI akt vyžaduje od prevádzkovateľov systémov relatívne podrobný ‚striptíz‘ a nutnosť opísať, ako algoritmy pracujú, čo vyhodnocujú, ako aj množiny dát, na ktorých sa modely trénujú,“ vysvetľuje Mikeš.
Advokát považuje takú požiadavku do určitej miery za legitímnu, avšak verí, že to nemusí byť jednoduché a firmám sa do toho nemusí chcieť. Zrazu totiž musia odhaliť, na čom modely trénujú a či dátové sady nie sú postihnuté nejakej skreslením, čo by ovplyvnilo presnosť nástrojov.
Dôležitá je podľa Mikeša pri veľkých jazykových modeloch aj otázka hodnôt. Napríklad v medicíne môže byť pri riešení rakoviny kože dôležité, aby mal systém v dátach uloženú farbu pokožky pacienta.
„Máme zafixované, že keď sa človek pýta na atribúty, na základe ktorých možno diskriminovať, je to vnímané ako diskriminácia. Tento pojem však znamená rozlišovanie a z môjho pohľadu nie je rozlišovať zlé. Zlé je až to, keď na základe toho nezákonne zasiahnete do práv ľudí,“ domnieva sa Mikeš.
Kontroverzné v tomto môže byť aj vykazovanie štatistík kriminality, no aj tu je podľa neho potrebné mať údaje o národnostiach páchateľov, pretože len tak možno nastaviť sociálne programy, ktoré daným ľuďom ponúknu inú perspektívu než zločin.
„Preto mi nevadí, keď tu bude súťaž rôznych systémov AI a každý povie: ‚U nás môžeš toto, ale nemôžeš tamto, pretože máme rebríček určitých hodnôt.‘ To bude transparentné. Čo mi vadí, je, ak je systém nejakým spôsobom zaťažený a nepovie vám to,“ poukazuje advokát.
AI sa nevyhneme
Hodnoty však majú dve roviny – vývojársku a podnikateľskú. Kým vývojári sa starajú o to, aby splnili podmienky regulácie, firmy si musia vyhodnotiť, do akej miery sú si isté, že dáta klientov sú v bezpečí a nebudú sa dostávať tretím stranám.
Dôležitá je tiež transparentnosť. „Myslím si, že ak predávate službu, ktorú vygeneruje chatbot, máte to klientom povedať. Ak ho však využijete len ako prvý krok a potom s tým urobíte kopec analytickej práce, tam problém nevidím,“ dodáva.
„Začínam mať pocit, že umelá inteligencia je niečo, čomu sa nebude dať vyhnúť. A v horizonte dvoch až piatich rokov si myslím, že mnohí podnikatelia budú riešiť otázku, ako ju správne implementovať do podmienok svojej spoločnosti, aby pomáhala a nebola len nákladovou položkou,“ vysvetľuje advokát.
Podľa neho je jej zavádzanie o tom, či nejakým spôsobom uľahčuje život a šetrí čas. Predtým, než firma do AI investuje, by si tak podnikatelia mali položiť otázku, či im to skutočne môže v niečom pomôcť.
Osobitne dobré využitie môže nájsť vo firmách, ktoré dostávajú vstupné dáta a musia z nich vygenerovať správu. „Ak ste výrobný podnik, môžete mať umelú inteligenciu čiastočne v mechanizácii, ale potom vám to už asi toľko neprinesie,“ dodáva Mikeš.
AI stále robí chyby
Pri zavádzaní systémov umelej inteligencie vo firme je pritom potrebné dbať na to, aby ich zamestnanci nebrali ako neomylných spasiteľov. „Žiadny výrobca softvéru vám nezaručí stopercentnú úspešnosť a z môjho pohľadu je nesprávne tvrdiť, že sa ľudia nemusia nič učiť, pretože všetko je dostupné niekde na internete,“ varuje advokát.
Stále sa totiž musíme vedieť správne pýtať a vôbec vedieť, na čo sa máme pýtať. A keďže človek je pohodlný tvor, niektorí sa na umelú inteligenciu začnú spoliehať, čo podľa Mikeša nie je dobré využitie týchto systémov.
„Najlepšie využitie je podľa mňa to, že vám poskytne prvotný výstup, ale vy ho stále musíte kontrolovať. Po prvé preto, že stále robí relatívne veľké množstvo chýb, po druhé preto, aby človek neprišiel o svoje poznanie ako také,“ podotýka Mikeš.
To je dôležité aj preto, že keď sa niečo pokazí, zodpovednosť voči zákazníkovi ponesie podnikateľ, ktorý umelú inteligenciu zaviedol – pretože to bol on, kto ju použil pre svoju službu alebo výrobok.
Podnikateľ však v prípade problému môže ísť aj za softvérovým vývojárom, aj keď tí často svoju zodpovednosť vylučujú a softvér ponúkajú „tak, ako je“ – teda aj s možnými nedostatkami.
„Je to jednoducho lopata a podnikateľ, ktorý sa rozhodol, že ju bude používať, by mal byť do istej miery zodpovedný za chyby, ktoré pri používaní nastanú, rovnako ako pri akomkoľvek inom nástroji,“ uzatvára advokát Mikeš z kancelárie Skils.
