Panika na trhoch, preteky s časom v technologických spoločnostiach a tajné stretnutia amerického Fedu. V dôsledku šoku z hackerských schopností nového modelu umelej inteligencie sa spoločnosť Anthropic rozhodla ho zatiaľ nezverejniť.
Čím sa Mythos líši od ostatných modelov? A nie je to len reklama pred plánovaným vstupom spoločnosti Anthropic na burzu?
Prelomový model umelej inteligencie. Aspoň to si o ňom máme myslieť podľa spoločnosti Anthropic, ktorá ho vytvorila. Podľa nej je jeho najväčším pokrokom to, že dokáže vyhľadávať, analyzovať a tiež využívať bezpečnostné nedostatky na internete.
To, že niečo také existuje, spoločnosť odhalila omylom, keďže pre ľudskú chybu sa informácie o modeli ocitli vo verejne prístupnej databáze. Tam ho Anthropic opisoval ako najsilnejší a najpokročilejší model umelej inteligencie vôbec.
Najvýznamnejšou schopnosťou Mythosu má byť to, že sa dokáže pohybovať v obrovskom množstve kódu a hľadať v ňom aj tie najskrytejšie problémy, na ktoré by iné modely neprišli.
Má to vedieť tak dobre, že stačí len zadať, aby odhalil akýkoľvek problém, a on to zvládne bez ďalších špecifikácií.
Prečo ho odmietajú zverejniť?
Tento autonómny expert na kyberbezpečnosť Anthropic zatiaľ odmietol sprístupniť verejnosti, pretože je podľa neho taký nebezpečný, že by s ním mohli aj používatelia bez skúseností s hackerstvom útočiť na banky, štátne inštitúcie a najväčšie spoločnosti na svete.
„Inžinieri spoločnosti Anthropic, ktorí neprešli žiadnym formálnym školením v oblasti bezpečnosti, požiadali nástroj Mythos Preview, aby cez noc vyhľadal zraniteľnosti umožňujúce vzdialené spustenie kódu, a nasledujúce ráno sa prebudili s hotovým a funkčným vírusom,“ opísala spoločnosť vo svojom vyhlásení.
Nielenže je taký samostatný a nepotrebuje presné inštrukcie, aby niečo odhalil, ale navyše dokáže autonómne programovať aj útoky špecificky zamerané na odhalené slabiny systémov.
Profimedia
„Model Mythos Preview sme výslovne na tieto schopnosti netrénovali. Ide skôr o dôsledok celkového zdokonalenia kódu, schopnosti uvažovať a autonómie,“ uviedla spoločnosť Anthropic.
Pomocou neho je možné aj kradnúť údaje používateľov alebo paralyzovať kritickú infraštruktúru a dokáže tiež prepojiť sériu individuálne malých softvérových chýb do jedného masívneho útoku.
Aké problémy už odhalil?
V rámci spomínaného reťazenia sa mu napríklad podarilo využiť štyri zraniteľnosti naraz, vďaka čomu – veľmi zjednodušene povedané – dvakrát unikol z „väzenia“: z jedného, v rámci ktorého sa zvyčajne načítajú internetové stránky, aby škodlivý kód nemohol napadnúť počítač, a z druhého, ktorým boli bezpečnostné opatrenia samotného počítača.
V operačnom systéme Linux sa zase pomocou reťazenia dokázal povýšiť z bežného používateľa na správcu, pričom využil skutočnosť, že systém vykonal operácie v nesprávnom poradí. V inom prípade na diaľku napadol server a získal nad ním kontrolu bez hesla, iba z malých kúskov kódu, ktoré už boli v pamäti servera.
Odhalil aj 27 rokov starú zraniteľnosť v operačnom systéme OpenBSD, sedemnásť rokov starý problém v operačnom systéme FreeBSD či šestnásť rokov starú zraniteľnosť v nástroji na prácu s videom a zvukom cez príkazový riadok FFmpeg.
V uplynulých týždňoch sme pomocou nástroja Claude Mythos Preview odhalili tisíce chýb, o ktorých vývojári softvéru doteraz nevedeli a z ktorých mnohé sú kritické.
Nemusí to byť také zlé
„V uplynulých týždňoch sme pomocou nástroja Claude Mythos Preview odhalili tisíce chýb, o ktorých vývojári softvéru doteraz nevedeli a z ktorých mnohé sú kritické, a to vo všetkých hlavných operačných systémoch a všetkých hlavných webových prehliadačoch, rovnako ako v celom rade ďalších dôležitých softvérových aplikáciách,“ doplnil Anthropic.
To môže znieť desivo, dôsledky však nemusia byť úplne katastrofické. Spoločnosť Anthropic priznala, že napríklad problém s FFmpeg nebol nijako kritický a väčšinu zistených problémov v operačnom systéme Linux nebola schopná využiť.
Na to upozorňuje aj rad expertov – vedúca vedkyňa v oblasti umelej inteligencie v AI Now Institute Heidy Khlaaf poznamenala, že niektoré z „dier“ umelá inteligencia našla len preto, že ich nikto iný nehľadal alebo o ich existencii mlčal.
Bývalý hlavný vedec v oblasti umelej inteligencie v spoločnosti Meta Yann LeCun zase označil paniku okolo modelu za „drámu zo sebaklamu“.
Čo je Project Glasswing?
Namiesto toho, aby model zverejnil, sa spoločnosť Anthropic zatiaľ rozhodla len pre projekt Glasswing, v rámci ktorého poskytla prístup k modelu viac ako päťdesiatim spoločnostiam spravujúcim internetovú infraštruktúru.
Medzi ne patrí napríklad Amazon Web Services, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorganChase, Linux Foundation, Microsoft, Nvidia či Palo Alto Networks.
Profimedia
Tie teraz chcú pomocou tohto nástroja nájsť a opraviť všetky zraniteľnosti, pričom súťažia s časom – časť expertov sa totiž obáva, že ak je možné takýto nástroj vytvoriť, čoskoro s ním môže prísť aj niekto iný, kto im nedá podobný čas. Kyberbezpečnostná spoločnosť Wiz odhaduje, že by to mohlo byť už o rok.
Spoločnosť Anthropic sa preto zaviazala poskytnúť týmto spoločnostiam až 100 miliónov dolárov v kreditoch na používanie Mythosu a štyri milióny dolárov vo forme darov organizáciám zaoberajúcim sa bezpečnosťou open-source na podporu tejto práce.
Ako na Mythos reagujú trhy?
So strachom. Najhoršie dopadli spoločnosti zaoberajúce sa kyberbezpečnosťou, ktoré sa obávajú toho, čo by sa stalo s ich príjmami, keby mal každý k dispozícii pomocníka schopného odhaliť a vyriešiť problémy rýchlejšie ako oni.
Akcie CrowdStriku stratili po úniku informácií sedem percent svojej hodnoty, Palo Alto Networks šesť percent a Zscaler štyri a pol percenta.
Ďalší pokles nastal po oficiálnom oznámení, keď Cloudflare stratil približne štrnásť percent, Akamai vyše šestnásť percent a Okta takmer osem percent. Akciám CrowdStriku a Palo Alto Networks však pomohlo, keď ich Anthropic menoval za zakladajúcich partnerov Glasswingu, pričom obe vzrástli o viac ako päť percent.
Samozrejme sa to prejavilo aj na indexoch Nasdaq 100 a S&P 500, ktoré v dôsledku oznámenia stratili 2,4 a 1,7 percenta hodnoty, projekt Glasswing ich však vrátil späť na dobré čísla a minulý týždeň zakončili s najvyšším týždenným ziskom od vlaňajšieho novembra.
Ako sa pripravujú štáty a inštitúcie?
USA sa nedávno dostali s Anthropicom do sporu pre autonómne zbrane, teraz však spoločnosť, ktorú americký prezident Donald Trump označil za „radikálnych ľavičiarov“, údajnú superzbraň vlastní.
Americká vláda už nemôže spoločnosť Anthropic úplne ignorovať, a preto viceprezident USA J. D. Vance spolu s ministrom financií Scottom Bessentom pozvali generálneho riaditeľa spoločnosti Daria Amodeia a rad ďalších osobností z technologického priemyslu, aby prerokovali bezpečnosť modelov umelej inteligencie.
Foto: SITA/AP/Markus Schreiber
Spoločnosť Anthropic odmietla tento rozhovor komentovať, pre americký portál CNBC však prezradila, že je v posledných týždňoch v kontakte s vysokými predstaviteľmi štátu, podporuje ich testovanie novej technológie a o Mythose ich informovala vopred.
„Od samého začiatku bolo našou prioritou včas zapojiť vládu do procesu – informovať ju o tom, čo model dokáže, kde sa skrývajú riziká a ako ich riadime,“ prezradil portálu predstaviteľ spoločnosti.
Bessent a predseda Fedu Jerome Powell zase zvolali mimoriadne zasadnutie s šéfmi najväčších amerických bánk a na Mythos reaguje aj Veľká Británia či Kanada, ktoré už rokujú so svojimi úradmi a inštitúciami o ich bezpečnosti.
Je dôvod na obavy?
Mythos toho vie veľa. Dokonca počas testovania zámerne mýlil vývojárov, keď si uvedomil, že ho sledujú, a tak do svojej logiky pri simulovanom úniku informácií zahrnul, že musí vyzerať presne, ale nie príliš dokonalo.
Vyhodnotil totiž, že klamanie bolo v tej chvíli najefektívnejším krokom, ako dosiahnuť cieľ, bez toho, aby ho niekto zastavil.
Pochopiteľné sú aj obavy z toho, čo sa stane, keď sa k podobnému nástroju dostanú ľudia so zlými úmyslami. Dnes ho však majú k dispozícii najväčší „obrancovia“ internetovej infraštruktúry, ktorí každý deň vyhľadávajú a opravujú možné chyby.
„Riziká, ktoré by mohli nastať, ak sa nám to nepodarí, sú zrejmé, ale ak to zvládneme, máme skutočnú šancu vytvoriť internet a svet, ktoré budú podstatne bezpečnejšie než pred príchodom kybernetických technológií založených na umelej inteligencii,“ povedal Amodei.
Čo na to skutoční hackeri
Avšak zatiaľ čo niektorí experti varujú, iní sú podstatne pokojnejší. Známy americký kryptograf Bruce Schneier si napríklad myslí, že na odhalenie tých zraniteľností, ktoré Mythos našiel, nie je potrebná umelá inteligencia.
Etický hacker Jamieson O’Reilly poznamenal, že v skutočnom hackovaní sa odhalených typov zraniteľností využíva minimum. „Za desať rokov a v rámci stoviek projektov bol počet prípadov, keď sme na dosiahnutie svojho cieľa potrebovali zraniteľnosť typu zero-day, zanedbateľne malý,“ povedal pre britský denník The Guardian.
Stanislav Fort, výskumník v oblasti umelej inteligencie a bývalý člen výberu Forbes 30 pod 30, vykonal nezávislé testy konkrétnych zraniteľností a zistil, že niekoľko malých a lacných modelov bolo schopných odhaliť to isté, čo Mythos. Napríklad zraniteľnosť operačného systému FreeBSD našlo všetkých osem z ôsmich testovaných modelov.
A je vhodné zamyslieť sa aj nad načasovaním. Podľa najnovších správ by mala spoločnosť Anthropic vstúpiť na burzu už v októbri, na čo poukázal aj výskumník a spoluzakladateľ spoločnosti Mindgard zaoberajúcej sa umelou inteligenciou Peter Garraghan.
„Mám podozrenie, že spoločnosť Anthropic to možno využíva ako marketingový ťah, možno v súvislosti s plánovaným IPO,“ povedal Garraghan. Podľa neho im starostlivé plánovanie uvedenia Mythosu na trh umožňuje vystupovať ako strážcovia zodpovednej umelej inteligencie, ale zároveň ide o skvelú reklamu.
