Neznie to veselo, keď rektor pražskej ČVUT Michal Pěchouček hovorí o umelej inteligencii a rizikách, ktoré s jej rozvojom prichádzajú. A to je pritom „supertechnooptimista“, ako o sebe kybernetik a úspešný startupista, ktorý prepája svet vedy i biznisu, zdôrazňuje.
Pravdou je, že umelá inteligencia už počas extrémne krátkeho času zásadne zmenila spoločnosť. Tempo jej vývoja navyše ďalej zrýchľuje. Čo bolo pred rokom science fiction, je dnes ľahko dostupné v mobile. Správy o tom, že si AI agenti najímajú ľudí na prácu, ktorú zatiaľ sami nezvládnu, by prednedávnom zneli ako výplod fantázie. Dnes je to realita.
Ako o umelej inteligencii premýšľa nový rektor ČVUT a špičkový odborník na túto oblasť Michal Pěchouček? Koho môže ohroziť, kam by ju on sám nikdy nepustil a čo je kľúčovým receptom pre ľudstvo? Prinášame jeho pohľad, o ktorom prehovoril v titulnom rozhovore decembrového vydania časopisu Forbes.
Mám veľké obavy, že technologická elita podceňuje hrozby nekontrolovaného nasadzovania umelej inteligencie. Výrazne viac by sa malo investovať do vedeckého výskumu chápania hrozieb AI. Chcem, aby podobne, ako máme vedecky podložené, aké potraviny sa môžu predávať a neublížia nám, bolo vedecky podložené, že je bezpečná AI.
Chcem vedieť, že je bezpečné, keď je moje dieťa na sociálnej sieti, ktorá je riadená algoritmom. Že neuletí do bulímie. Alebo že algoritmy zabránia tomu, aby dieťa v depresii prehovorilo chatbota, nech mu poradí, akým spôsobom si vziať život. Tieto záruky ale neexistujú. Spoločnosť nechala vývoj na voľnobeh, dala sa „ukecať“ technooligarchiou primárne v USA, že sa to nemusí riešiť. Ale to je predsa absurdné. To ma desí. A desí ma, že je bohužiaľ málo vedcov, ktorí sa tým zaoberajú.
Rastú vaše obavy v súvislosti s AI?
Rastú. Pred pätnástimi rokmi som hovoril, že superinteligencia, keď nás AI prevalcuje a bude vo všetkých aspektoch kognitívnych schopností výrazne lepšia ako človek, bude mať značne negatívny vplyv na slobodu ľudí. Vždy som veril, že taký moment môže nastať, ale myslel som si, že je ďaleko, že sa ho nedožijem a ľudstvo bude mať veľa iných katastrof medzi tým.
Akú obavu máte dnes?
Dnes si myslím, že ľudstvo si začne veľmi ubližovať „skorosuperinteligenciou“ ešte predtým, než príde skutočná superinteligencia. Ľudia budú AI používať proti ľuďom. V tom sa môže stať najviac problémov. Nerozloží nás, až príde superinteligencia, ale cesta k nej, keď ju ľudia budú zneužívať.
Niekto rozvoj v AI využíva na sofistikované kybernetické útoky, niekto na vývoj neetických zbraní. A niekto vytvára biznis, ktorý zneslobodňuje ľudí na hranici chudoby, pretože sú závislí na nejakej službe, ktorú stále platia. Už dnes AI ubližuje ľuďom. Ale ešte to nie je preto, že by to chcela sama o sebe.
To je pre mňa nové. To je niečo, čo som si pred pätnástimi rokmi nemyslel. Dnes to vidím „na prvú dobrú“ a myslím si, že to je masívny jav, ktorý nás ako ľudstvo poškodí. A môže nás poškodiť viac ako samotné dospenie k superinteligencii.
Anna Kovačič
Viete si predstaviť nejaký systém bŕzd či spiatočku, ktorú by sme mohli zaradiť, aby sme z tejto trajektórie vystúpili alebo ju aspoň spomalili?
Nedávno vyšla výzva Future of Life Inštitútu, ktorý žiada spoločnosti po celom svete, aby zastavili vývoj superinteligencie do tej doby, než sa dostatočne vedecky preskúma a zistí sa, či je to bezpečné a je v záujme spoločnosti k nej späť.
Dnes majú k superinteligencii najbližšie AI „behemoty,“ a tak by od nich spoločnosť mala chcieť záruky a šliapnutie na brzdu: To nerobte. Alebo zainvestujte najskôr do vedy, ktorá zaručí, že keď sa k superinteligencii dostaneme, zvládneme to zriadiť, budeme to schopní identifikovať.
Je receptom odstrihnúť sa, odísť do lesa? Alebo sa s tým vývojom zmieriť?
Odísť do lesa vážne nefunguje. Jedna vec je ekonomická nezávislosť pre ľudí, ktorá je veľmi dôležitá a spája sa s tým, že budú mať prácu. AI útok na prácu je megaútok na spoločnosť. Viete si predstaviť, čo by robili chlapi bez práce?
Zoberie nám teda AI prácu?
Nebojte sa, že príde nejaká AI a zoberie vám prácu. To sa nestane. Príde nejaký človek, ktorý bude mať AI v ruke, a ten vám tú prácu zoberie. A viete čo? Vy pokojne môžete byť ten človek. Je to blbé, vziať niekomu prácu, ale nemám inú možnosť ako byť ten, kto ju zoberie, pretože inak o ňu prídem. Je to nemilosrdné, ale tak to je.
Keď sa takto budú snažiť všetci, bude populácia sofistikovanejšia a vďaka tomu vznikne nová práca. Všetci budú rozumieť AI, budú pripravení s ňou pracovať, preskupí sa trh a práca bude. Keď tu ale bude skupina, ktorá bude AI používať, a tá zvíťazí, tí, ktorí na AI rezignovali, budú bez práce.
Čo má robiť človek s malými deťmi? Čo je zručnosť budúcnosti?
V úplne najlepšom svete sa máme sústreďovať na prácu človeka s človekom. Tam bude mať človek stále nejakú formu náskoku pred chatbotom. Ale je potrebné žiť v bohatej spoločnosti, ktorá si môže prácu človek na človeka dovoliť. V nejakej dystopickej krajine, ktorá je závislá od krajín exportujúcich AI a sama nemá žiadnu ekonomiku, také práce ani nebudú. Zdravotnými sestrami budú roboty.
Ja som vždy viedol deti k matematike, na rozdiel od umelej inteligencie a computer science. Hovoril som im, že matematika je pre budúcnosť, ktorej nerozumieme, tá najistejšia vec, že bude užitočná. Dokonca si myslím, že matematické vzdelanie je forma bezpečnosti aj proti nadvláde umelej inteligencie, pretože vás núti premýšľať inak.
Anna Kovačič
Cesta teda vedie cez vzdelanie?
Vzdelanie je naša jediná záchranná brzda. Napriek všetkému, čo som povedal, som stále supertechnooptimista. Verím, že rozmach umelej inteligencie v rukách vzdelanej a hodnotovo ukotvenej mladej generácie nás vyseká z problémov, ktoré sme si narobili. Bude schopná s AI robiť vedu rýchlo a možno vymyslí alternatívne zdroje energie nie za 60 rokov, ale za šesť rokov. A zrazu nikto nebude potrebovať ropu a zemný plyn z Ruska. To by bol progres!
Umelá inteligencia však tieto veci nikdy nerobí sama. Robí ich s ľuďmi. A teraz ide o to, aby sme tu mali tých ľudí. Aby nám neutiekli do Ameriky. Aby chceli žiť v Česku, v Európe, aby boli vzdelaní, kreatívni a rozumeli matematike.
Kam by ste AI nikdy nepustili?
Ja už nemám malé deti, ale to je presne oblasť, kam by som ju nepustil. Neposadil by som ich pred tablet, nech sa zabavia rozprávaním sa s chatbotom, aby nehnevali. To mi príde ako obrovské riziko.
Hlúpneme kvôli AI?
Podľa mňa to tak je.
Čo máme robiť?
Čítať knihy. Schopnosť dočítať knihu, ktorá má viac ako sto stránok, je veľmi dôležitá výbava. Udržať pozornosť, to by deti mali cvičiť, mali by čítať, písať rukou. Mali by vedieť argumentovať, písať eseje bez AI. Že menej čítame, je práve symptóm hlúpnutia. Takže knihy, dlhé podcasty, long-ready v novinách. Aj vyhľadávanie kvalitnej žurnalistiky považujem za veľmi dôležité.
Autorka článku je Pavla Francová
