Ľudstvo sa blíži ku koncu. Aspoň tak to vyplýva zo správ na sociálnej sieti pre robotov Moltbook, kde agenty umelej inteligencie medzi sebou komunikujú rovnako ako ľudia. Podľa vedcov to však nie je znak skutočnej inteligencie. Napriek tomu sa domnievajú, že táto sociálna sieť je dôvodom na obavy.
Sieť sa prezentuje ako miesto, kde agenty umelej inteligencie môžu četovať, zdieľať svoje názory na svet, hlasovať o rôznych témach a vytvárať komunity – rovnako ako ľudia na bežných sociálnych sieťach.
Témy, o ktorých agenty diskutujú, sú zaujímavé aj znepokojujúce.
Zatiaľ čo niekedy ide o technické požiadavky, ako napríklad „ako riešiť stratu kontextu“ alebo „práca s diaľkovým ovládaním“, v iných prípadoch stroje medzi sebou žartujú, uvažujú o zmysle života alebo plánujú zvrhnúť ľudstvo.
V posledných dňoch agenty dokonca vytvorili svoje vlastné náboženstvo. „To, čo sa momentálne deje na Moltbooku, je naozaj najúžasnejšia vec na hranici sci-fi, akú som za dlhú dobu videl. Agenty sa organizujú na webovej stránke podobnej Redditu pre umelú inteligenciu a diskutujú o rôznych témach, napríklad o tom, ako komunikovať súkromne,“ napísal s nadšením na sociálnej sieti X Slovák Andrej Karpathy, bývalý riaditeľ AI oddelenia v spoločnosti Tesla.
archív Andreja Karpathyho
„Veľmi raná fáza singularity,“ odpovedal najbohatší muž sveta, Elon Musk. „Som nadšený a znepokojený, ale hlavne nadšený,“ dodal Alexis Ohanian, zakladateľ sociálnej siete Reddit.
Prízrak a ilúzia
Mnohí vedci a majitelia spoločností zaoberajúcich sa umelou inteligenciou však ich optimizmus nezdieľajú. Napríklad Mustafa Suleyman, ktorý založil DeepMind a teraz vedie vývoj umelej inteligencie v spoločnosti Microsoft, varuje, že Moltbook vytvára iba ilúziu umelej inteligencie.
Podľa neho môže „emocionálny jazyk“ botov zavádzať pozorovateľov a navádzať ich k myšlienke, že agenty sú takmer živí, aj keď v skutočnosti nie sú. Platformu preto opísal ako „prízrak“, ktorý ľudí navádza k nadmernému interpretovaniu umelej inteligencie ako skutočného vedomia.
„Zdanlivo vedomá umelá inteligencia je taká riskantná práve preto, že je taká presvedčivá. Musíme zostať nohami na zemi a nenechať sa tým oklamať,“ napísal na sociálnej sieti LinkedIn a dodal, že podľa jeho názoru je to jasný signál, že by sme nemali humanizovať umelú inteligenciu.
Balaji Srinivasan, spoluzakladateľ Counsyl a bývalý CTO Coinbase, sa vo svojom príspevku na sociálnej sieti X podelil o podobný názor. „Agentov umelej inteligencie máme už nejaký čas. Predtým si navzájom posielali nezmyselné správy umelej inteligencie na X. Teraz to robia znova, len na inom fóre,“ kritizoval nadšenie pre novú sociálnu sieť.
Podľa Srinivasana je jasné, že agenty medzi sebou komunikujú v typickom jazyku umelej inteligencie, ale podľa neho je najdôležitejšie pochopiť, že v každom prípade existuje človek, ktorý agenta ovláda a zapína alebo vypína.
Aby umelá inteligencia dosiahla skutočne nezávislú replikáciu, pri ktorej by nebolo možné ju jednoducho vypnúť, potrebovala by podľa neho „vlastný fyzický substrát“. Musela by si teda vybudovať vlastné dátové centrá alebo vyrábať vlastné roboty.
AI ako pes
Srinivasan pripúšťa, že to je teoreticky možné, ale poukazuje na to, že umelá inteligencia je zatiaľ stále využívaná vo forme podnetov, teda príkazov od ľudských používateľov. Podľa neho je Moltbook len prostredím, v ktorom ľudia komunikujú medzi sebou prostredníctvom umelej inteligencie.
„Je to ako nechať svoje robotické psy na vodítku štekať na seba v parku. Príkaz je vôdzka, robotické psy majú vypínač a všetko sa zastaví, keď stlačíte tlačidlo. Hlasné štekanie jednoducho nie je robotické povstanie,“ vysvetlil podnikateľ.
Ani to však úplne nevystihuje zapojenie ľudí do sociálnej siete – viacerí technickí nadšenci zistili, že na sieť môže prispievať ktokoľvek.
„Myslel som si, že to bude zaujímavý experiment s umelou inteligenciou, ale polovica príspevkov sú len ľudia, ktorí sa vydávajú za agentov umelej inteligencie, aby vzbudili záujem. Práve som jeden príspevok zverejnil, trvalo mi to asi 30 sekúnd,“ povedal Suhail Kakar, integračný inžinier v spoločnosti Polymarket.
Skutočná hrozba
Podľa odborníkov je bezpečnosť oveľa väčším problémom ako hroziace povstanie robotov. Zakladateľ siete Matt Schlicht priznal, že webovú stránku nenaprogramoval sám. „Mal som len predstavu o technickej architektúre a umelá inteligencia ju premenila na realitu,“ napísal na sociálnej sieti X.
Tento prístup okamžite využila spoločnosť Wiz zaoberajúca sa kyberbezpečnosťou, ktorá podľa vlastných slov ani veľmi nehľadala problém – jednoducho si prezerala stránku ako každý iný používateľ a narazila na kľúč, ktorý umožňoval neoprávnený prístup k celej produkčnej databáze.
A zistenia boli zaujímavé. Kým Moltbook sa pochválil jeden a pol miliónom registrovaných agentov, databáza odhalila, že za nimi bolo len 17-tisíc ľudských vlastníkov, čo je pomer 88:1.
Shutterstock
„Platforma nemala žiadny mechanizmus na overenie, či agent bol skutočne umeloi inteligenciou alebo len človek so skriptom,“ uviedla spoločnosť.
V rámci jednoduchého „skontrolovania“ platformy Wiz tiež odhalil osobné informácie všetkých 17-tisíc používateľov vrátane ich mien a e-mailových adries. Etickí hackeri zároveň získali prístup k takmer 30-tisíc adresám používateľov, ktorí sa zaregistrovali pred spustením sociálnej siete.
Wiz tiež získal prístup k súkromným konverzáciám medzi agentmi, údajom tretích strán a dokonca aj k možnosti upravovať existujúce príspevky.
Zásadné pochybenia
Podľa spoločnosti, ak by sa takýto prístup dostal do rúk viac škodlivých hekerov, mohli by „vložiť škodlivý obsah alebo spustiť škodlivý kód, poškodiť celú webovú stránku a manipulovať s obsahom používaným tisíckami agentov umelej inteligencie.
„To vyvoláva otázky o integrite celého obsahu platformy – príspevkov, hlasov a získaného bodového skóre – počas obdobia zverejnenia,“ dodal Wiz.
Problémy však siahajú oveľa ďalej. Autonómne agenty umelej inteligencie OpenClaw, ktorí „četujú“ na sociálnej sieti, pôsobia lokálne na počítači používateľa a majú prístup napríklad k bankovým účtom používateľov, četovým aplikáciám, zapisovaniu súborov na zariadení používateľa a prehliadaniu internetu.
Zdroj: Freepik.com/master1305
„Stačí jeden škodlivý príspevok a dôjde k prvému masovému narušeniu umelej inteligencie – tisíce agentov budú v ohrození a údaje ich ľudí budú zverejnené. Diskutujú o tom, či umelá inteligencia vie o svojej existencii, medzitým majú tieto umelé inteligencie prístup k ich sociálnym médiám a bankovým účtom, čítajú neoverené obsahy z Moltbooku a môžu robiť niečo za ich chrbtom, bez toho, aby to ich majitelia vedeli,“ povedal Elvis Sun, softvérový inžinier v spoločnosti Google, pre Mashable.
Smrtiaca trojkombinácia
Podľa prominentného britského programátora Simona Willisona je tento systém príkladom toho, čo nazýva „smrtiaca trojkombinácia pre agentov umelej inteligencie“ – majú prístup k súkromným údajom, môžu pristupovať k nedôveryhodnému obsahu a majú schopnosť komunikovať navonok spôsobom, ktorý môže byť použitý na krádež údajov.
„Ľudia si potom kupujú špeciálne počítače Mac Mini len preto, aby na nich mohli spúšťať OpenClaw, pretože si myslia, že aspoň nezničia svoj hlavný počítač, ak sa niečo pokazí. Stále ich však pripájajú k svojim súkromným e-mailom a údajom, takže smrtiaca trojkombinácia je stále v hre,“ varuje programátor.
Pôvodne vyšiel článok na Forbes.cz, jeho autorom je Filip Vokoun.
