Keď tento rok dospievajúci chlapec z amerického štátu Kentucky spáchal samovraždu, jeho rodičia zistili, že dostával výhražné textové správy. Ich odosielatelia od neho žiadali 3000 dolárov, inak zverejnia jeho nahé snímky vyrobené s pomocou umelej inteligencie. Pripomenula to agentúra AFP.
Táto tragédia odhalila len jeden z prípadov podvodov založených na takzvanom sexuálnom vydieraní (známom pod anglickým označením sextortion), ktoré sa zameriavajú na deti po celom svete. Umožňuje ich rýchle šírenie „vyzliekacích“ aplikácií, ktoré využívajú AI, aby digitálne „vyzliekli“ svoju obeť alebo vytvorili sexualizované snímky.
Šestnásťročný Elijah Heacock bol jedným z tisícok amerických tínedžerov, ktorí sa stali terčom podobného digitálneho vydierania. Teraz silnejú hlasy vyzývajúce na väčší zásah zo strany technologických platforiem a regulačných orgánov.
Elijahovi rodičia americkým médiám oznámili, že mu v textových správach vydierači prikázali zaplatiť, inak jeho príbuzní a priatelia dostanú jeho nahú fotku, ktorá bola zrejme generovaná umelou inteligenciou.
Dobre organizovaní zločinci
„Ľudia, ktorí idú po našich deťoch, sú dobre organizovaní,“ povedal v rozhovore v televízii CBS News chlapcov otec John Burnett. „Majú dostatok finančných prostriedkov a sú neúprosné. Nepotrebujú, aby fotografie boli skutočné, môžu generovať, čo chcú, a potom to použijú na vydieranie dieťaťa,“ dodal.
Americkí vyšetrovatelia prípad preverujú. Podľa polície ide o súčasť širšieho kriminálneho trendu, keď sa aplikácie, ktoré pôvodne cielili predovšetkým na celebrity, čoraz častejšie zneužívajú proti deťom.
Americký federálny úrad pre vyšetrovanie (FBI) informoval o desivom náraste počtu prípadov sexuálneho vydierania zameraného proti americkým maloletým. Obeťami sú zvyčajne chlapci vo veku 14 až 17 rokov. Vyhrážky už viedli k „alarmujúcemu počtu samovrážd“, varovala FBI.
Šesť percent tínedžerov
Nezisková organizácia Thorn, ktorá sa zameriava na prevenciu zneužívania detí na internete, v nedávnom prieskume zistila, že priamou obeťou falošných nahých fotografií sa stalo šesť percent amerických tínedžerov.
„Správy o falošných a upravených snímkach, z ktorých mnohé sú generované pomocou AI, sa zdajú byť úzko spojené so správami o vydieraní s pomocou sexuálne explicitných obrázkov,“ uviedla vo svojej minuloročnej správe britská organizácia Internet Watch Foundation (IWF).
„Páchatelia už nemusia získavať intímne fotky od detí, pretože obrázky, ktoré sú dostatočne presvedčivé, aby boli škodlivé – v niektorých prípadoch možno dokonca rovnako škodlivé ako skutočné fotky – možno vytvoriť pomocou generatívnej umelej inteligencie,“ dodala IWF.
Pedofilná príručka
Organizácii sa podarilo na internete nájsť „pedofilnú príručku“, ktorá priamo vyzývala páchateľov, aby používali aplikácie na vytváranie snímok, s ktorými budú môcť deti vydierať. Autor príručky tvrdil, že týmto spôsobom úspešne vydieral niekoľko 13-ročných dievčat.
Nástroje slúžiace na vytváranie falošných nahých snímok sú lukratívny biznis. Nová analýza 85 webových stránok, ktoré predávajú podobné aplikácie či programy, ukázala, že ich celková hodnota môže dosahovať až 36 miliónov dolárov ročne.
Analýza spoločnosti Indicator, ktorá sa zaoberá digitálnymi podvodmi, potom ukazuje, že 18 týchto webov zarobilo za šesť mesiacov do tohtoročného mája od 2,6 milióna do 18,4 milióna dolárov.
Väčšina webov využíva na prevádzku technologickú infraštruktúru spoločností Google, Amazon a Cloudflare a zostáva zisková aj napriek zásahom platforiem a regulačných orgánov, uviedla spoločnosť Indicator.
Rozšírenie nástrojov umelej inteligencie vedie k novým formám zneužívania detí alebo šikany, vrátane pornografických škandálov na univerzitách a školách po celom svete, kde tínedžeri vytvárali sexualizované obrázky spolužiakov.
Nedávny prieskum organizácie Save the Children zistil, že každý piaty mladý človek v Španielsku sa stal obeťou falošných nahých fotografií, ktoré bez jeho súhlasu začali kolovať online. Na začiatku tohto roka španielski štátni žalobcovia oznámili, že vyšetrujú tri maloleté osoby v meste Puertollano.
Dotyční s pomocou AI údajne vytvárali pornografický obsah zameraný na ich spolužiakov a učiteľov, a šírili ho vo svojej škole.
Nový trestný čin
Vo Veľkej Británii vláda tento rok zaradila vytváranie sexuálne explicitných falošných snímok či videí medzi trestné činy. Usvedčeným páchateľom za ne hrozia až dva roky väzenia. Podobný zákon podpísal tento rok v máji tiež americký prezident Donald Trump.
Na jeho základe je trestné zverejňovanie intímnych obrázkov bez súhlasu danej osoby. Zákon zároveň nariaďuje ich odstránenie z online platforiem.
Napriek všetkým opatreniam však weby ponúkajúce aplikácie a podobné služby nemiznú. Boj s nimi je podľa odborníkov ako snaha odseknúť chobotnici stále dorastajúce chápadlá.
