Zoberiete telefón do ruky, aby ste si prečítali správu, lenže skôr než stihnete čokoľvek urobiť, váš asistent umelej inteligencie sám otvorí finančnú aplikáciu a odporučí vám investíciu, o ktorú ste nikdy nežiadali. Matne si spomeniete, že ste pred pár týždňami bez väčšieho rozmýšľania súhlasili s povolením funkcie čítania obrazovky. To, čo sa vtedy mohlo javiť ako užitočný prvok, dnes pôsobí oveľa temnejšie: ako kontrola.
Vitajte v ére umelej inteligencie, ktorá číta obrazovku. V ére, kde digitálne nástroje už nie sú len pasívnymi pomocníkmi, ale preberajú rozhodovanie a čoraz častejšie riadia naše digitálne životy – často bez nášho pochopenia alebo súhlasu.
Je zrejmé, v čom spočíva príťažlivosť inteligentných asistentov, ako sú Google Assistant, Siri, čínske Yoyo alebo Zhipu AutoGLM: bezproblémový multitasking. Vysloviť „objednaj mi moju obvyklú kávu“ a sledovať, ako asistent bez námahy ovláda aplikácie, uplatňuje zľavy a dokončuje platby, je bezpochyby lákavé a pôsobivé.
Táto mágia však úplne stojí na schopnosti umelej inteligencie čítať vašu obrazovku. Pôvodne tieto nástroje vznikli preto, aby ľudia so zdravotným znevýhodnením mohli jednoduchšie používať technologické zariadenia. Dnes však poskytujú hlboký prístup k obsahu, čím umožňujú umelej inteligencii vidieť a reagovať na čokoľvek, čo sa na obrazovke zobrazuje, a aktívne s tým pracovať.
Od inteligentných okuliarov Ray-Ban od spoločnosti Meta, ktoré dokážu v reálnom čase rozpoznávať tváre, až po softvér na sledovanie zamestnancov. Umelá inteligencia sa vyvinula z obyčajného pomocníka na niekoho, kto aktívne – a dotieravo – rozhoduje.
Globálny poplach pre zneužívanie nástrojov
Bránou, ktorou si umelá inteligencia razí cestu do nášho digitálneho sveta, sú takzvané Accessibility API, teda špeciálne rozhrania, ktoré mali pôvodne pomáhať ľuďom so zrakovým alebo pohybovým znevýhodnením. Dnes ich však umelá inteligencia často zneužíva a získava vďaka nim takmer neobmedzený prístup k obrazovke, pričom dokáže napodobňovať naše vlastné kroky.
Nejde len o problém Číny, ide o celosvetový jav. Sledovací kód Pixel od spoločnosti Meta je dnes zabudovaný približne na 5,8 milióna webových stránok po celom svete a pritom obchádza ochranu súkromia v systéme Android.
Ruská spoločnosť Yandex zas nasadzuje svoje sledovacie nástroje Metrica približne na troch miliónoch webov, kde sa dokážu dostať aj cez bezpečnostné obmedzenia a detailne monitorovať správanie používateľov.
V Južnej Kórei pobúril verejnosť chatbot Lee Luda, vytvorený spoločnosťou Scatter Lab. Ukázalo sa totiž, že bol trénovaný na osobných konverzáciách používateľov zoznamovacej aplikácie Science of Love, a to napriek tomu, že používatelia s takýmto využitím údajne súhlasili len prostredníctvom vágne formulovaných podmienok ochrany súkromia.
Kórejský úrad na ochranu osobných údajov následne rozhodol, že takto všeobecne formulovaný súhlas môže byť v rozpore so zákonom.
Ešte znepokojivejší bol prípad dnes už zrušenej španielskej platformy ClothOff, zameranej na tvorbu deepfake obsahu. Fungovala pod znepokojivým sloganom – Vyzlečte oblečenie komukoľvek, vyzlečte dievčatá zadarmo. Používatelia nahrávali fotografie oblečených ľudí a späť dostávali realistické nahé snímky, často bez výslovného súhlasu osoby na fotografii.
Podmienky služby síce tvrdili, že používatelia musia mať viac ako 18 rokov alebo súhlas rodičov a že platforma neukladá žiadne dáta. Napriek tomu sa ukázalo, že najmenej 11 miestnych dospievajúcich tieto umelo vytvorené nahé snímky zdieľalo na sociálnych sieťach, čo malo zničujúci dosah na životy ich mladých obetí.
Všetky tieto prípady odhaľujú rovnakú systémovú slabinu: umelá inteligencia schopná čítať obrazovku potláča vôľu používateľov, preberá nad nimi kontrolu pod zámienkou pomoci a skrýva sa za vágne používateľské súhlasy, aby sa vyhla zodpovednosti.
Keď AI rozhoduje za vás
Skutočné nebezpečenstvo nespočíva len v tom, že nás AI sleduje. Ešte horšie je, že dokáže odhadovať naše zámery a konať v našom mene. Kedysi bolo zbieranie dát jednoduché – mali sme nad ním kontrolu, pretože sme zdieľali len tie údaje, ktoré sme chceli zdieľať.
Dnes, v dôsledku čítania obrazovky v kombinácii s rozhodovaním riadeným AI, už ľudia nezdieľajú len dáta – zverujú umelej inteligencii moc rozhodovať za seba, často nezvratne.
Príkladom je Doubao, veľmi populárny AI asistent vyvinutý spoločnosťou ByteDance, známy v Číne svojou emočnou citlivosťou, najmä medzi mladšími používateľmi. Nedávno bola do počítačovej verzie Doubao pridaná funkcia čítania obrazovky.
Jeden používateľ zabudol zatvoriť chatovaciu aplikáciu s osobnými informáciami a požiadal Doubao, aby mu upravil slohovú prácu. Šokujúce bolo, že AI do upraveného textu zahrnula podrobné informácie o tom, kde tento používateľ býva. Asistent pritom neporušil bezpečnostné pravidlá – jednoducho prečítal to, čo bolo zobrazené na obrazovke.
Takéto schopnosti umožňujú umelej inteligencii odporúčať obsah alebo služby so skrytými motívmi. Napríklad, ak vám AI asistent odporučí jednu aplikáciu na rozvoz jedla namiesto inej, môže ísť o platené zvýhodnenie, pri ktorom AI nenápadne ovplyvňuje rozhodnutia používateľov v prospech zisku.
Umelá inteligencia už skrátka nepotrebuje priame osobné údaje na to, aby vás dokázala ovplyvniť. Stačí jej poznať vaše zvyky, preferencie a impulzy. Stávate sa produktom.
Keď „nemám čo skrývať“ už neplatí
Desiatky rokov ľudia zľahčovali obavy o súkromie tvrdením, že nemajú čo skrývať. Tento pohľad je dnes však nebezpečne zastaraný. Moderná umelá inteligencia dokáže už z obyčajného sledovania obrazovky odhadnúť náladu, zvyky aj slabé miesta používateľa.
Nepotrebuje priame osobné údaje, stačí jej náhľad, aby mohla nenápadne ovplyvňovať rozhodnutia a pôsobiť skôr ako užitočný pomocník než ako niečo dotieravé. Používatelia pritom len zriedka odolávajú, pretože im takáto interakcia pripadá prirodzená a prospešná.
Vo svete riadenom umelou inteligenciou je jednoduché a pohodlné prenechať rozhodovanie jej. Vedie to však ku klamlivej ilúzii, že používateľ má slobodnú vôľu.
Znovuzískanie kontroly
Otázka už neznie len, či ma AI sleduje, ale či za mňa aj rozhoduje. A ak rozhoduje, kto naprogramoval jej voľby, kto z toho profituje a kto skutočne nesie zodpovednosť?
Súhlas musí byť skutočne informovaný, nielen skrytý v používateľských podmienkach. Regulátori musia vyžadovať transparentnosť procesov, prostredníctvom ktorých umelá inteligencia vyvodzuje závery, a nielen transparentnosť pri zbere dát. Funkcie umožňujúce sprístupnenie obsahu, už spomínané Accessibility API, musia byť prísnejšie kontrolované, aby nedochádzalo k ich zneužívaniu.
Používatelia si musia uvedomiť, že kliknutie na „súhlasím“ dnes už nemusí byť len formálnym alebo jednoduchým krokom, ale môže znamenať odovzdanie kontroly nad dôležitými rozhodnutiami umelej inteligencii.
Freepik
AI nie je náš nepriateľ. Skutočnou výzvou je udržať si vlastnú vôľu a slobodu rozhodovania vo svete ovládanom algoritmami. Umelá inteligencia nás totiž čoraz častejšie postrkuje k rozhodnutiam, o ktorých si myslíme, že sú naše vlastné, a hrozí, že nad nimi napokon stratíme kontrolu úplne.
Nejde o abstraktnú hrozbu – deje sa to už teraz. Systémy umelej inteligencie sú čoraz sofistikovanejšie, a tým sa posilňuje aj ich nenápadný vplyv. O to ostražitejší musia byť používatelia.
Ak váš asistent začne rozhodovať za vás – a vy budete mať pocit, že odjakživa išlo o vaše vlastné rozhodnutia – potom už môže byť boj o kontrolu prehratý.
Riešením nie je odmietať umelú inteligenciu, ale zabezpečiť transparentnosť, zodpovednosť a skutočne informovaný súhlas. Technológia má najväčšiu hodnotu vtedy, keď posilňuje našu schopnosť konať, nie keď s nami manipuluje.
Hranica medzi pomocou a nadvládou musí zostať jasne vymedzená, inak riskujeme tichú kapituláciu pred neviditeľnými silami, ktoré riadia naše digitálne životy.
Napokon, zodpovednosť leží na nás všetkých – na tvorcoch technológií, regulátoroch aj bežných používateľoch – aby sme zabezpečili, že umelá inteligencia zostane nástrojom, ktorý kontrolujeme my, a aby sa z nás samých nestali nástroje AI. Pretože v momente, keď technológie nenápadne prevezmú „volant“ a zároveň vás presvedčia, že stále šoférujete vy, vtedy ste už nad cieľom cesty stratili kontrolu.
Článok vyšiel na forbes.cz a autorom je Vivian Toth.
