AGI. Tri písmená, za ktorými sa podľa mnohých skrývajú najtemnejšie scenáre, ktoré ľudstvo čakajú. Reč je o všeobecnej umelej inteligencii.
AGI je zatiaľ teoretická forma umelej inteligencie, ktorá by mohla súčasne vykonávať rôzne úlohy rovnako kvalitne ako ľudia. Alebo aj lepšie.
Podľa mnohých by AGI mohla vzniknúť už v najbližšej dekáde. Niektorí vysokoškoláci, vrátane študentov elitných amerických univerzít preto predčasne opúšťajú školy. Namiesto štúdia chcú na plný úväzok pracovať na tom, aby sa táto technológia neobrátila proti ľudstvu. Ďalší zas odchádzajú, pretože už v štúdiu nevidia zmysel ako predtým.
Keď Alice Blair v roku 2023 nastúpila do prvého ročníka na Massachusettskom technologickom inštitúte (MIT), tešila sa na kurzy informatiky a stretnutia s ďalšími ľuďmi, ktorým záleží na rozvoji umelej inteligencie v prospech ľudstva.
Teraz však štúdium prerušila. Obáva možnosti, že vznik všeobecnej umelej inteligencie, stále hypotetickej formy umelej inteligencie, ktorá dokáže vykonávať rôzne úlohy lepšie ako ľudia, by mohol znamenať koniec ľudskej rasy.
„Bála som sa, že sa pre AGI nedožijem ani promócie,“ hovorí Blair, ktorá pochádza z Berkeley v Kalifornii. „Myslím si, že drvivá väčšina scenárov, podľa ktorých smerujeme k AGI, sa skončí vyhynutím ľudstva,“ vyjadrila najhoršie obavy, ktoré majú v súvislosti s AGI mnohí.
Mladí chcú mať prax
Blair si našla prácu ako technická redaktorka v Center for AI Safety, neziskovej organizácii zameranej na výskum bezpečnosti AI. Pomáha tam s bulletinmi a technickým písaním. A návrat na MIT neplánuje. „Myslím, že moja budúcnosť je v reálnom svete,“ hovorí.
Blair nie je jediná, kto sa desí potenciálne ničivého vplyvu, ktorý by umelá inteligencia mohla mať na budúcnosť ľudstva, ak by sa spamätala a rozhodla, že jej ľudia nestoja za námahu.
Riziko, že práve takto skončí ľudská rasa, existuje aj podľa správy, ktorú si v roku 2024 objednalo americké ministerstvo zahraničných vecí. Najmä vo svetle rýchleho pokroku, ktorý oblasť umelej inteligencie v posledných rokoch dosiahla.
Aj preto je vo svete čoraz väčší tlak na vývoj umelej inteligencie so zárukami, ktoré by takémuto scenáru zabránili. Ide o miliardármi financované neziskové organizácie, ako je Center for AI Safety, alebo firmy, ako je Anthropic.
Na druhej strane, mnohí výskumníci s týmto základným predpokladom nesúhlasia.
Nie všetci sa obávajú
„Vyhynutie ľudstva sa zdá byť veľmi nepravdepodobné,“ hovorí Gary Marcus, emeritný profesor Newyorskej univerzity, ktorý skúma prepojenie medzi psychológiou a AI. „Ale pracovať na bezpečnosti AI je, samozrejme, ušľachtilé a súčasný výskum zatiaľ poskytol len málo odpovedí,“ dodáva.
Ak má byť vaša kariéra do konca dekády zautomatizovaná, potom každý rok na univerzite znamená o rok kratšiu šancu presadiť sa.
Práve snaha dohliadať na bezpečnosť AI a možnosť zabrániť jej najhorším vplyvom motivuje mladých ľudí, aby odišli zo škôl. A Alice Blair nie je jediná.
Napríklad Adam Kaufman, študent fyziky a informatiky, tiež minulý rok opustil Harvard, aby pracoval na plný úväzok v neziskovej organizácii Redwood Research. Tá skúma podvodné systémy AI schopné konať proti ľudským záujmom.
AP Photo/Stew Milne, File
„Veľmi ma znepokojujú riziká spojené s AI a myslím si, že najdôležitejšie je pracovať práve na ich zmierňovaní,“ hovorí Kaufman. „A trochu sebecky – je to jednoducho strašne zaujímavé. Pracujem s tými najinteligentnejšími ľuďmi, akých som kedy stretol, na mimoriadne dôležitých problémoch,“ opisuje.
Nie je v tom sám. Jeho brat, spolubývajúci a priateľka si tiež vzali z rovnakých dôvodov voľno z Harvardu. Všetci traja teraz pracujú pre OpenAI.
Oplatí sa vôbec študovať?
Iní študenti sa AGI obávajú z toho dôvodu, že by im mohla zničiť kariéru ešte pred jej začiatkom. Polovica z 326 harvardských študentov, ktorí sa zúčastnili na prieskume organizovanom študentskou asociáciou a klubom AI Safety, uviedla, že sa obáva vplyvu AI na ich pracovné vyhliadky.
„Ak bude vaša kariéra do konca dekády zautomatizovaná, potom každý rok na univerzite znamená o rok kratšiu šancu presadiť sa,“ hovorí Nikola Jurković. V máji tohto roku ukončil štúdium na Harvarde a pôsobil ako vedúci skupiny pre prípravu AGI. „Osobne si myslím, že AGI by mohlo prísť už za štyri roky a úplná automatizácia ekonomiky za päť až šesť rokov,“ dodáva.
Netreba ani čakať na všeobecnú AI, ktorá sa vyrovná ľudským mozgom. Niektoré spoločnosti už teraz prijímajú menej stážistov a absolventov, pretože AI, ktorá je k dispozícii už dnes, dokáže vykonávať ich prácu. A iné spoločnosti rovno húfne prepúšťajú.
Generálny riaditeľ spoločnosti Anthropic Dario Amodei varoval, že umelá inteligencia by mohla v priebehu niekoľkých rokov zrušiť polovicu všetkých juniorských kancelárskych pozícií a zvýšiť nezamestnanosť v USA na 20 percent. Študenti sa však obávajú, že táto zmena sa dramaticky zrýchli s príchodom AGI.
Dátum je zatiaľ neznámy
Otázka, kedy k tomu dôjde, zostáva sporným bodom. Šéf OpenAI Sam Altman predpovedá, že prvá AGI bude vyvinutá pred rokom 2029. Šéf Google DeepMind Demis Hassabis zas hovorí o piatich až desiatich rokoch.
Spomínaný Jurković sa domnieva, že by to mohlo prísť ešte skôr, je totiž podpísaný pod časovým odhadom projektu AI Futures. Ten predpovedá, že väčšina kancelárskych prác by mohla byť vďaka AGI automatizovaná do roku 2030.
Halfpoint Images
Iní s tým však nesúhlasia. „Je veľmi nepravdepodobné, že AGI príde v najbližších piatich rokoch,“ hovorí emeritný profesor Newyorskej univerzity Gary Marcus. „Je to len marketing – predstierame opak, zatiaľ čo toľko základných problémov AI, ako sú halucinácie a chyby v úsudku, zostáva naďalej nevyriešených.“
Marcus poukazuje na to, že iba pridať údaje a výpočtový výkon do modelov umelej inteligencie zatiaľ nestačí na to, aby sa vytvorili dostatočne sofistikované systémy, ktoré by zvládli mnohé ľudské úlohy.
Otázky, kedy sa AGI objaví a akú hodnotu bude mať vysokoškolský titul vo svete narušenom umelou inteligenciou na ľudskej úrovni, zostávajú otvorené. A len čas ukáže, kto mal pravdu.
Posledná šanca niečo dokázať
Študenti sa však už teraz snažia vybudovať si kariéru skôr, ako bude podľa nich neskoro. Mnohí preto opúšťajú školy a zakladajú vlastné firmy, často paradoxne v oblasti umelej inteligencie.
Od roku 2023 teda študenti opúšťajú univerzity, aby využili „zlatú horúčku“ v oblasti umelej inteligencie. Inšpirujú ich príbehy príslušníkov minulých generácií, ako Sam Altman či šéf Mety Mark Zuckerberg.
Michael Truell, dnes dvadsaťštyriročný CEO spoločnosti Anysphere, a Brendan Foody, dvadsaťdvaročný šéf spoločnosti Mercor, odišli z MIT a Georgetownu, aby založili vlastné startupy. Spoločnosť Anysphere bola naposledy ocenená na 9,9 miliardy dolárov, Mercor zas získala investície presahujúce 100 miliónov.
Hrozbu, že AGI úplne nahradí ľudskú prácu, považujú niektorí študenti za tikajúcu bombu. A tiež za obrovskú príležitosť.
„Mal som pocit, že je už len obmedzený čas, v ktorom je ešte možné do vlaku AI nastúpiť,“ hovorí Jared Mantell, ktorý študoval ekonómiu a informatiku na Washington University v St. Louis. Zo školy však odišiel a začal sa naplno venovať startupu dashCrystal. Ten sa zameriava na automatizáciu návrhu elektroniky. Jeho firma doteraz získala viac ako 800-tisíc dolárov pri ocenení približne 20 miliónov dolárov.
Odchod nie je pre všetkých
Odchod zo školy však znamená stratu výhod vysokoškolského titulu, ktorý v reálnom svete zatiaľ stále niečo znamená.
Podľa Pew Research Center zarábajú čerství absolventi s bakalárskym alebo vyšším vzdelaním v priemere najmenej o dvadsaťtisíc dolárov ročne viac ako ich rovesníci bez neho. A vo svete, kde umelá inteligencia ničí prvé nástupné pozície, môže absencia titulu ešte viac obmedziť možnosti mladých ľudí.
Dokonca aj spoluzakladateľ startupového akcelerátora Y Combinator Paul Graham (ktorý je známy tým, že podporuje mladých startupistov, ktorí zanechali štúdium) si myslí, že študenti by mali zostať v škole.
„Neodchádzajte z univerzity, aby ste založili alebo pracovali pre startup,“ napísal v júli na sociálnej sieti X. „Budú aj iné (a pravdepodobne lepšie) príležitosti, ale študentské roky vám už nikto nevráti.“
Koniec koncov, aj Alice Blair, ktorá sa stala inšpiráciou pre tento článok, si nemyslí, že odchod zo školy je pre každého. „Je nesmierne ťažké a vyčerpávajúce predčasne ukončiť školu a nájsť si prácu,“ hovorí. „Odporúčala by som to len veľmi odolným ľuďom, ktorí už majú pocit, že im univerzita dala dostatočnú prípravu na to, aby sa mohli uplatniť.“
Článok vyšiel na Forbes.com. Autorkou je Victoria Feng.
