Počas sviatkov sledovali milióny ľudí na stanici Disney+ dokument Get Back a v ňom famózne znovuzrodenie kapely Beatles v pestrej škále farieb. Koľko divákov si však pri sledovaní uvedomilo, že rovnaká technológia, ktorá na obrazovke vdýchla život ikonickej skupine, dobre slúži aj menej bohumilým zámerom?
Algoritmy použité na vytvorenie takzvaných deepfakes, teda umelou inteligenciou zostavených imitácií, ktoré sú na nepoznanie od nahrávky skutočných ľudí, majú totiž aj odvrátenú stranu.
A odborníci na kyberbezpečnosť sa vo veľkom zhodnú, že predstavujú jednu z najväčších výziev, s ktorými sa bude musieť spoločnosť v nadchádzajúcich rokoch vysporiadať.
O deepfakes počúvame už niekoľko rokov, ale v poslednej dobe ich vývoj naberá znepokojujúco rýchle tempo. Napokon, už dnes existujú stránky, ktoré vám pomôžu dokonale ponížiť ľubovoľného človeka tým, že jeho tvár z inak nevinného videa napasujú na pornografický materiál.
V politickej sfére sme zase mohli vidieť a počuť prednášať Baracka Obamu cudzie vety. A hoci dnes už staršie video s Obamom vzniklo z dôvodov osvety a napríklad až desivo presvedčivý tiktokový účet falošného Toma Cruisa je hlavne žartom, potenciál na zneužitie deepfakes je obrovský.
Každý si asi dokáže predstaviť situáciu, v ktorej by ho deepfakes mohli osobne poškodiť. Napríklad keby jeho dvojník na uniknutom videu hovoril nechutne rasistické výroky, alebo sa sexisticky vyjadroval o ženách.
Ako Pandorina skrinka z gréckej mytológie
Dnes z toho zrejme nikto z nás reálny strach nemá, ale je takmer isté, že do niekoľkých rokov sa to zmení. Pretože, keď už raz boli deepfakes vypustené do sveta, len ťažko sa to dá vrátiť späť, podobne ako to bolo v Pandorinej skrinke z gréckej mytológie.
Kým špecialisti a nadšenci zdokonaľujú svoje nástroje, časť z nich sa už pomaly dostáva aj k širšiemu publiku. Na Githube už existuje vyše 80 open-source aplikácií na tvorbu deepfake médií. A to sú ešte tie menej pokročilé.
Nedávno som na túto tému diskutoval s Ericom Hallerom, ktorý má na starosti overovanie identity v spoločnosti Experian, a podľa neho je možné si tvorbu deepfakes vyložiť ako posledné štádium nikdy sa nekončiacej vojny medzi biznisom a falšovaním.
„Len si spomeňte na staré špionážne filmy, kde agenti sledujú nejaký videozáznam a snažia sa vyriešiť, či je reálny, alebo ide len o podvrh. A to sa deje aj dnes – nič nové pod slnkom,“ vysvetľoval.
Drobné rozdiely dokážu prezradiť
Treba si však uvedomiť, že hoci v dokumente o Beatles mala umelá inteligencia za úlohu najmä dolaďovanie a reštaurovanie detailov, ako je v tomto prípade farba, vyšetrovatelia sa môžu stretnúť taktiež s materiálmi, ktoré sú stopercentným dielom počítača.
A tu je zatiaľ prvá dobrá správa. Táto technológia nie je v takom stave, aby dokázala vyrobiť presnú a dokonalú kópiu. Nie je tak príliš pravdepodobné, že by v súčasnej dobe bola schopná vytvoriť deepfakes na takej úrovni, že by zmiatli niekoho, kto pozná subjekt samotný.
Kto osobu v reálnom živote pozná, identifikuje drobné rozdiely v intonácii aj dikcii a spozná, že ide o počítačom generovaný obsah.
Haller poznamenáva, že aj tvorba deepfake videí s Tomom Cruisom – tie sú zrejme najzdieľanejším virálnym príkladom tohto fenoménu – vyžaduje prácu skúseného herca alebo imitátora, ktorý je schopný verne napodobniť osobitý štýl reči Toma Cruisa.
Umelá inteligencia potom pomocou algoritmov známych ako generatívne adversariálne siete (GAN) zvukové a obrazové dáta iba „rozpije“, aby spojenie s hollywoodskou hviezdou bolo ešte dokonalejšie.
Ale výsledok toho všetkého je podľa môjho názoru zatiaľ málo dokonalý na to, aby väčšinu ľudí zmiatol. Povedal by som, že reakcie väčšiny ľudí, ktorí si pozrú video, bude niečo v tom zmysle, že ide o „dosť vierohodný fake“, skôr než „To je Tom Cruise!“ Napokon, posúďte sami. Ale je až desivé, ako málo k tejto hranici zdanlivo zostáva.
Umelý hlas už oklamal aj bankový systém
Nebezpečenstvo spočíva v tom, že zatiaľ stále iba skúšame, čoho všetkého je umelá inteligencia vôbec schopná. Je dosť dobre možné, že o päť či desať rokov, ale možno aj o rok, budeme mať technológiu, ktorej výtvory budú od skutočnosti už naozaj nerozpoznateľné.
Už sú známe prípady, keď zločinec pomocou umelého hlasu oklamal bankový systém a dosiahol presun peňazí na vlastný účet. V jednom takom prípade išlo dokonca o 35 miliónov dolárov.
Pracovnou náplňou Hallera a ďalších v jeho odvetví je okrem iného práve snaha podobným útokom technologicky zabrániť. „Navyše, môže ísť o neexistujúcu osobu,“ vysvetľuje. „A vytvoriť niekoho, kto vôbec neexistuje, je pravdepodobne nižšia méta než simulovať reálnu osobu a tú zapojiť do interaktívneho dialógu.“
Hrozby
Je to však desivá hranica, ku ktorej sa táto technológia blíži míľovými krokmi. „Môj najväčší strach je, že by dokázala presvedčiť niekoho, kto pozná toho, s kým si myslí, že komunikuje. Ale k tomu je podľa mňa stále ďaleko. Vyžaduje to dokonalú súhru technológií, z nich každá musí byť ďalej, než je v súčasnosti. Ale tá nižšia méta – tá už je ozaj dosť vierohodná aj dnes,“ hovorí Haller.
Navyše aj riziká toho, že by vás mohol deepfakes poškodiť, sú stále zreteľnejšie, ak vezmeme do úvahy tempo, akým svoje životy posúvame v online svete. Dvojnásobne, pokiaľ ich v dohľadnej budúcnosti tesnejšie zviažeme s digitálnym vesmírom, ako to sľubuje napríklad koncept metaverzum.
Pandémia urýchlila digitálny vývoj
„Niektorí kolegovia hovoria, že kvôli pandémii sa do predchádzajúcich 18 mesiacov scvrklo možno desať rokov digitálneho vývoja. A platí to aj na strane užívateľov a ich ochoty technológie využívať. Napokon, aj môj 95-ročný svokor si dnes objednáva potraviny cez internet. To by pred rokom a pol skutočne neprichádzalo do úvahy,“ poznamenáva Haller.
Navyše, čím ďalej tým väčšia časť komunikácie prebieha cez Zoom a jemu podobné služby, či už ide o pracovné schôdzky alebo konzultácie s lekármi. A tak je zrejmé, že naše fyzické ja bude nahrádzané tým digitálnym čoraz častejšie.
Kvôli tomu bude práca expertov na rozpoznávaní identity, ako je Haller, pre spoločnosť čoraz dôležitejšia.
Má však obrovský potenciál (aj ten pozitívny)
Nemali by sme však prehliadať ani to, že tieto technológie nám prinášajú aj všeličo dobré. Nielenže dokážu naše obľúbené filmové hviezdy priviesť zo záhrobia alebo ich omladiť. Ale umelá inteligencia by tiež mohla ľudstvo odbremeniť od veľkej nálože nudnej a repetitívnej práce, ktorú dnes musí vykonávať človek.
Rovnako je veľmi užitočná na tvorbu syntetických dát, ktorých prirodzený zber by bol náročný či nebezpečný, a ktorá umožňuje precíznejší tréning umelej inteligencie a robotov. Môže ísť napríklad o algoritmy pre autonómne riadenie bez rizika reálnej premávky. Alebo skúšobné lekárske zákroky, ktorými neohrozujeme život a zdravie pacientov ani zvierat.
Umelá inteligencia môže mať na spoločnosť skutočne transformačný vplyv a jej potenciál simulovať (alebo tiež falšovať) reálny svet je skrátka jedným z hlavných dôvodov, prečo to je vôbec možné. Snažiť sa o to, aby rozvíjanie jej potenciálu bolo bezpečné a bez napáchaných škôd, je preto dôležitou úlohou pre tých, ktorí technológie vyvíjajú a uvádzajú.
Článok vyšiel na Forbes.com. Autorom je Bernard Marr.
