Tereza Bartoníčková si už ako malé dieťa priala na Vianoce encyklopédiu. Informácie o fungovaní sveta ju fascinovali vždy a svoj potenciál ukázala napríklad na univerzite v Oxforde, kde vyštudovala magisterský program Social Science of the Internet.
Pracovné skúsenosti začala zbierať v Googli, kde začala tiež viac uvažovať o pozadí technológií a ich zásahu do nášho uvažovania. V roku 2018 založila nezávislý think-tank „Internetový institut“, pod ktorého záštitou sa snaží prinášať osvetu aj overené informácie.
Na nové technológie Bartoníčková nazerá z komplexnejších rovín – z pohľadu psychológie, etiky, práva. Usiluje sa o správne nastavené regulácie a efektívne prepájanie aktivít vychádzajúcich z akademickej, štátnej i biznisovej sféry, k čomu u nás podľa jej slov zatiaľ príliš nedochádza.
„Verím, že k tomuto cieľu – prepojeniu sektorov – v našej krajine dôjdeme v nasledujúcich desiatich rokoch. Zatiaľ sa nachádzame v situácii, keď niektoré spolupráce fungujú, ale nie sú systémovo ani obyčajovo zavedené,“ sľubuje si Bartoníčková
BIZNIS EVENT, AKÝ TU EŠTE NEBOL
Top ľudia z biznisu a manažmentu na jednom mieste, 4 pódiá, 100+ spíkrov. Top podujatie roka, na ktorom budú všetci a vy nesmiete chýbať… viac informácií už čoskoro.
CHCEM BYŤ NA WAITING LISTE
Internetový institut ste založili ako odozvu na chýbajúcu spoluprácu medzi spomínanými sférami. Čo sa vám zatiaľ podarilo a aké sú ďalšie vízie?
Za úspech považujeme prehĺbenie spolupráce biznisu a školstva v rámci príprav vzdelávania budúcnosti či zapojenia akademickej sféry do objektívnejšieho náhľadu na hodnotenie postupu digitalizácie vo forme posudkov a hodnotení.
Momentálne sa sústreďujeme najmä na konzultačnú činnosť cez sektory a na niche spoluprácu so štátnou správou a ďalšími organizáciami v oblastiach, ktoré považujeme za nevyhnutné pre modernizáciu prístupu štátu k občanom a udržateľnosť ekonomiky.
Niektoré chýbajúce impulzy v týchto oblastiach jednoducho musia byť podporené štátom, najmä v oblastiach technológií a prístupu k spolužitiu s nimi. Cez tieto témy chceme tiež viac tlačiť v oblastiach ovplyvňujúcich odliv mozgov z Česka. Koordinovaný a jednotný postup, teda logický a prepojený cez sféry, vidíme ako nevyhnutný práve tam.
Na vašich stránkach je veta: „Žijeme v čase, keď nám internet transformuje životy, či sme toho aktívnymi účastníkmi, alebo nie.“ Ako konkrétne?
Nemusíme byť programátormi či odborníkmi v IT, aby nás ovplyvňoval vplyv vývoja spoločnosti, ktorý zahŕňa technológie. Internet a nové technológie menia situácie a ekonomiky štátov, kontinentov, menia dynamiku nášho sveta aj fungovanie jednotlivcov.
Uvediem najbanálnejší príklad. Aj s mojou babičkou môžem ísť do pizzerie, ktorá by sa v malom meste bez online objednávok neuživila. Keď lacné smartfóny s internetom v Indii nahrádzajú nákladných lektorov angličtiny a ostatného učiva, ktoré predtým tejto vrstve populácie nebolo dostupné, je tento vplyv obrovský.
AI je veľmi dobre cvičená opica. Je väčšinou špecializovaná a je presne taká užitočná, aké dobré má zadanie, alebo nebezpečne mylná, aké neúplné či nešpecifikované má zadanie.
Posledné mesiace je veľmi skloňovaným pojmom umelá inteligencia (AI). Ako jej nástup vnímate?
AI je veľmi dobre cvičená opica. Je väčšinou špecializovaná a je presne taká užitočná, aké dobré má zadanie, alebo nebezpečne mylná, aké neúplné či nešpecifikované má zadanie.
Už nejaký čas sme v stave, keď sa tieto opice vďaka našim impulzom samy učia procesy, čo nám nemusí byť úplne zrejmé, pretože nehovoríme opičou rečou. Pokračujú v tvorení svojej generačnej línie na dosiahnutie nastavených cieľov, tvoria a učia ďalšie opice alebo „dávajú hlavy dokopy“ a využívajú im dostupné nástroje.
Dospeli sme tak do bodu, v ktorom stojíme pred novou generáciou opíc, sú z našich myslí, našim mysliam asistujú, a tak sme ich začali nazývať umelou inteligenciou.
Zladenie ľudských hodnôt s umelou inteligenciou
Aké konkrétne negatívne dôsledky z jej použitia môžu vyplynúť?
Najväčšie riziko vidím v nezladení AI s ľudskými hodnotami a hodnotami spoločnosti, v ktorej operuje, a tiež jej využívanie pre to, čo môžeme nazvať „nekalými zámermi“. Väčšinu umelej inteligencie budú používať súkromné firmy, čo znamená, že ju budú využívať za účelom zvýšenia profitability.
Už to sa preukázalo ako problematické, napríklad pri biznis modeloch sociálnych médií, ktoré sú jednoznačne nastavené na získanie a udržanie pozornosti užívateľa – na úkor mnohých morálnych hodnôt či súkromia.
Tieto princípy stoja na prispôsobení sa užívateľovi, na zbere a analýzach dát z jeho interakcií v rôznych internetových sférach. Hĺbka a presnosť týchto analýz bude exponenciálne akcelerovať a hlavne sa zdokonaľovať – na komerčné účely.
Budeme teda zachytení v čím ďalej, tým dokonalejšej špirále, ktorá nám bude podsúvať prijatie vzorcov správania výhodných pre korporácie. Zladenie akýchsi ľudských hodnôt s AI nie je teda len otázkou filozofickej nátury, ale aj otázkou mieriacou na samotné jadro kapitalizmu. Kam až sme ochotní zájsť na udržanie zdanlivo profitujúcej ekonomiky?
Môže umelá inteligencia tiež zvýšiť šírenie falošných správ a nebezpečných dezinformácií?
Určite je na to využiteľná. Potom bude záležať, ako sa takému fenoménu postavíme ako spoločnosť. Pokiaľ rovnako pasívne ako doteraz, hrozí to reálne.
Byť zvyknutí na dezinformácie je niečo, čo si môžeme dovoliť, keď ich už väčšina populácie rozozná. To sa teraz povedať nedá, pokiaľ bude teda trend momentálneho pôsobenia dezinformácií pokračovať, môže sa stať revolúcia aj „offline”.
Existuje možnosť, že sa umelá inteligencia zvrtne natoľko, že ju nebudeme schopní ovládať?
Každý stroj sa môže „odtrhnúť“ tak, že ho nebude možné ovládať. Nedávno som videla video so zaseknutým letiskovým povozom na batožinu, ktorý sa nekonečne šmýkal a nikto ho nedokázal zastaviť. Rovnako tak sa vám môže splašiť aj kosačka.
Musíme pamätať na to, že AI nie je jedna entita a nerozhoduje o svojej aplikácii. Záleží len na nás, aké jej typy vytrénujeme, kam a za akým účelom ich pošleme vykonávať ich prácu. Pokiaľ čítame o „splašených“ AI, väčšinou ide o nepresne naprogramované AI alebo zacyklené umelé inteligencie, ktoré sa „šmýkajú“ a nevykonávajú, čo majú.
Umelá inteligencia v armáde
Je toto dôvod pre kybernetické sily v rámci armády?
Rovnako ako každý iný prospešný nástroj, aj AI môže byť zneužitá – ako nôž, ktorým režeme chlieb, ale je možné ním ublížiť. Pod kybernetickými silami si zároveň musíme predstaviť rovnakú diverzitu ako v technológiách samotných – od drôtu a „zvárania“ až po informačné operácie.
Sama ste poručníčka kybernetických síl armádnych Aktívnych záloh. Čo presne je vašou úlohou?
Ešte, našťastie, nič. Aby som mala konkrétnu úlohu, museli by sme byť vo vojnovom stave a povolaní. Zatiaľ je moja úloha učiť sa armádnym spôsobom a procesom – od veliteľstva po spôsoby exekúcie. Ja osobne však neviem vyrábať hardvér, moje úlohy sú teda skôr v „mäkkej oblasti“.
Regulácie
Zaoberáte sa reguláciami digitálnych technológií spolu s eticko-právnymi dopadmi Al. Čo všetko si pod tým môžeme predstaviť?
Tú časť práce, ktorá zaistí, že v našich právnych štátoch a regiónoch budú môcť byť nové technológie využívané a aplikované bez narušovania toho, čo chceme zachovať. Treba preto spolu s inovátormi pracovať na zladení smeru, ktorým chceme ísť ako spoločnosť, hlavne hľadieť na technickú uskutočniteľnosť takého nároku.
Zle formulované regulácie môžu nielen spomaľovať vývoj, ale sa tiež úplne minúť účinkom.
Regulácie hlavne neovplyvňujú len fungovanie spoločností a technológií, ale môžu ovplyvňovať aj zložitosť vstupu na trh pre nové firmy, bezpečnosť občanov alebo aj názor verejnosti. Je preto potrebné dbať na mantinely a dopady, ktoré formulovanie regulácií skutočne má.
Rovnako ako hlboká je integrácia technológií v našich životoch a ekonomikách, aj ich dopady sú ďalekosiahle. Reguláciu teda v tomto zmysle vnímam ako usmernenie a dbanie o zachovanie princípov našej spoločnosti, nie ako zákazy a povolenia.
Zle formulované regulácie môžu nielen spomaľovať vývoj, ale sa tiež úplne minúť účinkom.
Článok vyšiel na Forbes.cz. Autorkou je Nel Foberová.
