Miliardárski investori sú vo vojne. Je to boj slov a vplyvu a ide v ňom o budúcnosť umelej inteligencie. Otázka znie: stane sa AI predovšetkým bezpečnou technológiou alebo pôjde v prvom rade o to, aby pomohla čo najrýchlejšie dosahovať pokrok? To je totiž veľký rozdiel.
Je príjemný deň na začiatku mája a Vinod Khosla, oblečený do strohého čierneho roláka a saka, vysvetľuje, o čo v prebiehajúcej debate ide. Poprezerá si zaplnenú aulu v útrobách komplexu amerického Kapitolu. „Vyhrať v zápase o umelú inteligenciu znamená získať ekonomickú moc, ktorá vám potom umožní ovplyvniť sociálnu politiku a ideológiu,“ hovorí.
Ďalšia vec, o ktorej chce Khosla hovoriť, je fakt, že rastúce schopnosti Číny v AI by mohli predstavovať hrozbu pre nadchádzajúce voľby v USA. Táto téma medzi bojovne naladenými pracovníkmi kongresu a politickými analytikmi v konferenčnej miestnosti na The Hill and Valley Forum zarezonuje. Celý deň sa tu debatuje najmä o dôsledkoch umelej inteligencie z pohľadu národnej bezpečnosti, a to najmä ak je v rukách nepriateľov Ameriky. Khosla zároveň vyzýva, aby bola umelá inteligencia vylúčená zo širšieho používania. Tým sa dostáva do víru širšej a tvrdej debaty v Silicon Valley.
Bývalý šéf spoločnosti Sun Microsystems a zakladateľ Khosla Ventures sa s kolegami investormi a podnikateľmi vo všeobecnosti zhoduje na tom, že umelá inteligencia predstavuje technologickú revolúciu. Dá sa porovnať s príchodom počítačov, či už sálových alebo osobných, alebo – ako tvrdí miliardár a partner Greylocku Reid Hoffman – je to dokonca podobné, ako keď prišli prvé autá či parný stroj. Umelá inteligencia môže byť lacným virtuálnym lekárom v každom mobile, pre deti tútorom a vychovávateľom zadarmo. Odstraňuje rozdiely v spoločnosti a ekonomike, v úlohe akéhosi tajného kódu by mohla spôsobiť defláciu, dokáže zachraňovať životy a mohla by pomôcť aj so znižovaním chudoby. „Ľudí môžeme odbremeniť od únavnej práce, od otrockej práce na montážnej linke osem hodín denne počas štyridsiatich rokov,“ hovorí 69-ročný Khosla.
Tieto sny však môžu byť veľmi nákladné, s nepredvídateľnými dôsledkami a možno to nakoniec dopadne oveľa horšie, ako to bolo v prípade predchádzajúcich technologických boomov. Napríklad dystopické preteky v AI zbrojení s Čínou – ak nám sociálne siete priniesli kultúrne vojny a koncept pravdy ako zbrane, aké škodlivé dôsledky môžu sprevádzať používanie umelej inteligencie?
Pre Khoslu, Hoffmana a silnú skupinu technologických lídrov je spôsob, ako zmierniť škodlivé a nezamýšľané následky AI, jasný: kontrolovať vývoj umelej inteligencie a regulovať, ako sa používa. Giganti Google a Microsoft súhlasia – a s nimi aj OpenAI, výrobca ChatGPT, do ktorého na začiatku investovali aj spomínaní Khosla a Hoffman. Ich názor, že je potrebné prijať ochranné opatrenia, oslovil aj amerického prezidenta Bidena, ktorého koniec koncov aj sponzorujú. Aj francúzsky prezident Emmanuel Macron privítal na jeseň minulého roka Hoffmana na raňajkách, počas ktorých diskutovali o „parnom stroji mysle“.
„Ako môžeme čo najviac pomôcť dobrým ľuďom, ako sú napríklad lekári, a zasa čo najmenej zločincom?“ zamýšľal sa 56-ročný Hoffman, zakladateľ siete LinkedIn. „Potrebujeme nájsť najrýchlejší spôsob, ako postupovať, zdravo riskovať a riskantné kroky si aj uvedomovať,“ povedal.
Na druhej strane stojí proti Khoslovi a Hoffmanovi akási frakcia, ktorú vedie 52-ročný Marc Andreessen, spoluzakladateľ venture kapitálovej spoločnosti a16z a prehliadača Netscape. Táto skupina, nazvime ju „absolútne neregulovať“ (v origináli open source absolutists, pozn. red.), zahŕňa šéfov startupov Hugging Face a Mistral, hlavného AI vedca spoločnosti Meta Yanna LeCuna, ale tiež Elona Muska, šéfa spoločnosti Tesla a siete X. Podľa nich sú reči o hrozbách a rizikách pre celé štáty iba nehanebnou snahou lídrov raného AI trhu, ako si zachovať náskok.
FOTO: GUERIN BLASK PRE FORBES
Jastrab. Vinod Khosla vraví, že potenciálne prínosy AI sú “veľmi, veľmi veľké.” Ale aj riziká: “zďaleka najväčšia je čínska AI. Tá ma trápi oveľa viac ako nejaká zlá AI, ktorá zničí ľudstvo.”
„Neexistuje žiadna bezpečnostná hrozba,“ hovorí LeCun. „Existenčné riziká so súčasnou technológiou neprichádzajú. Keď ste na čele, vravíte, že treba predpisy, pretože je to nebezpečné a držíte veci pod pokrievkou,“ súhlasí investor do umelej inteligencie Martin Casado, ktorý je Andreessenov kolega. „Toto je klasická regulačná rétorika, ktorú ľudia používajú na to, aby isté veci odstavili.“
Najlepší scenár, o ktorom hovoria Andreessen a jeho spojenci? Umelá inteligencia predchádza chorobám a predčasným úmrtiam, všetci umelci a podnikatelia pracujú na zlepšeniach s pomocou AI asistenta. Ani vojnové konflikty nebudú plné ľudských omylov a neprinesú toľko obetí. Na každom kroku budeme obdivovať umenie a sledovať filmy vytvorené AI. Andreessen, ktorý odmietol poskytnúť rozhovor, vo svojom manifeste hovorí o budúcnosti umelej inteligencie bez regulácie a akýchkoľvek prekážok, ktoré by spomaľovali jej vývoj, a chránili by veľké spoločnosti na úkor startupov.
Všetci traja miliardárski investori – Hoffman, Khosla a Andreessen – sa tento rok objavili na zozname top technologických investorov, teda sektora, ktorý nie je celý iba o AI. Najväčší vplyv majú v segmente umelej inteligencie. Hoffman na ôsmom mieste, Khosla na deviatom a Andreessen na tridsiatom šiestom mieste. Títo lídri predchádzajúcej technologickej revolúcie si v tejto ďalšej presadzujú svoje vlastné názory.
Bezpečné inovácie alebo monopol bez konkurencie? Technologická utópia alebo chaotický divoký západ? Oba tábory obhajujú protichodné názory a každý má niekoľkých samozvaných hovorcov. Nevedia sa pritom dohodnúť ani len na tom, kto je kto – oficiálne je každý optimista. Tí, ktorí chcú vývoj AI urýchliť, ako napríklad Andreessen, hovoria tým, ktorí o AI premýšľajú opatrnejšie, ako napríklad Hoffman, prezývkou „decels“ – spomaľovači. Rôznych akademikov, ktorí varujú pred katastrofou, zasa označujú za „doomerov“ („katastrofistov“). Hoffman o sebe tvrdí, že „technooptimistom“ bol dávno predtým, než Andreessen prišiel s týmto termínom v jeho novej vyostrenej podobe. „Teším sa, že Marc o téme veľa hovorí,“ vraví Hoffman. „Ja som vo veci otvorených zdrojov oveľa diferencovanejší ako on.“
Jedno však majú títo páni spoločné. Zhodujú sa, že ktokoľvek vyhrá tento „boj“, ovplyvní budúcnosť umelej inteligencie, teda „dosť pravdepodobne najdôležitejšej a najlepšej veci, ktorú naša civilizácia vynašla“. A, samozrejme, je v tom veľmi veľa peňazí, ktoré sa dajú zarobiť.
V máji minulého roka sa riaditeľ OpenAI Sam Altman objavil v Kapitole na zasadnutí senátneho podvýboru o umelej inteligencii. „Zregulujte nás,“ odkázal. Pre jeho oponentov to bol odkaz, na ktorý čakali. Musk, ktorý pomáhal založiť a financoval OpenAI, keď to ešte bola open-source nezisková organizácia, na sociálnej sieti X pred tromi mesiacmi skritizoval nedávne mnohomiliardové kapitálové investície Microsoftu do OpenAI. Ako povedal, z OpenAI sa stala „utajená spoločnosť zameraná na maximalizáciu zisku, de facto ovládaná Microsoftom“.
Khosla a Hoffman sa so šéfom OpenAI Samom Altmanom stretli minimálne raz, aby sa porozprávali o stratégii, ale inak si postupujú po svojom. Zastávajú názor, že riešením je kompromis, o ktorý sa OpenAI snaží. Je jedno, či sa Hoffman zhovára s prezidentom Bidenom, pápežom Františkom alebo americkou ministerkou hospodárstva Ginou Raimondovou, s ktorou v posledných mesiacoch často spolupracuje, otázky sú zväčša takéto: Ako ovplyvní AI voličov? A čo pracovné miesta? Kedy byť viac nadšený z prísľubov AI a kedy byť opatrný pre jej riziká? „Je potrebné ukázať, že im rozumiete a môžu vám dôverovať, že to vyriešite,“hovorí Hoffman. „Ak je váš prístup k vláde taký, že chcete, aby vám nezavadzala, veľmi tomu nepomôžete.“
FOTO: GUERIN BLASK PRE FORBES
Kontroverzný. Marc Andreessen nemá problém online kritizovať kolegov: “Vinod lobbuje za zakázanie open source,” napísal na X v marci.
Hoffman o umelej inteligencii diskutuje v množstve podcastov, príspevkoch na LinkedIne a s pomocou AI asistenta dokonca o umelej inteligencii napísal knihu. Tvrdí, že si drží konzistentnú líniu. Rovnako dôležité je prijať fakt, že množstvo ľudí – bez ohľadu na to, či sú to umelci, akademici, podnikatelia alebo vedci – nemusí zastávať názor, že vývoj umelej inteligencie je prospešný. Vďaka science-fiction mnohí vnímajú AI tak, že sa vymkla akejkoľvek kontrole, funguje ako vražedný robot či nejaká nadľudská inteligencia a že sa rozhodne skoncovať s ľudstvom. „Pre obavy spojené s AI mám veľké pochopenie,“ hovorí Hoffman. „Je to však rovnaké, ako keby sme zakazovali bratom Wrightovcom lietať, kým neprídeme na to, ako odstrániť letecké havárie. Takto to jednoducho nefunguje.“
Khosla, ktorý pripravuje stretnutia sponzorov kampane prezidenta Bidena, hovorí, že s Hoffmanom sú si v zásade veľmi blízki. V októbri zaslal americkému patentovému úradu vyjadrenie na podporu možnosti trénovať modely AI aj na dátach, ktoré majú ochrannú známku. „Myslím si, že pre spoločnosť je lepší vyvážený prístup, ktorý znižuje riziká, ale zachováva pozitíva,“ vraví. Vo svojich nedávnych vyjadreniach však už bol o niečo pochmúrnejší. Prácu OpenAI prirovnal k projektu Manhattan, ktorý vytvoril atómovú bombu. (Na sociálnej sieti X touto otázkou konfrontoval priamo Andreessena: „Ten by si iste nerobil bez obmedzení, s otvorenými zdrojmi, však?“) Khosla argumentuje, že AI bez dozoru a kontroly predstavuje ešte väčšie bezpečnostné riziko. „Bomba zasiahne jednu oblasť, AI všetky súčasne,“ hovorí.
Hoffman sa „bomby“ neobáva, ale model umelej inteligencie, ktorý je voľne dostupný, by mohol byť v budúcnosti vytrénovaný tak, aby vyvinul a rozšíril biologickú zbraň. Tá by mohla zabiť aj sto miliónov ľudí. „Ak ponecháte na open-source prístup nejaký takýto problém, už to neviete odvolať. Najprv musíme vyriešiť to najnaliehavejšie, čo by mohlo mať vplyv na milióny ľudí. To ostatné je ako džin, ktorého je možné zatvoriť nazad do fľaše.“
Tvrdia, že primeraným prístupom by bolo „mierne“ nariadenie. Prezident Biden vydal v októbri príkaz viac dohliadať na tvorcov jednotlivých modelov umelej inteligencie, prinútiť ich, aby zverejňovali výstupy tréningu AI a dodržiavali bezpečnostné štandardy pri uvádzaní AI produktov na trh. Andreessenovi a jeho stúpencom sa to, samozrejme, nepáči. „Big Tech“ (ako Google a Microsoft) a „noví veľkí hráči“ (ako OpenAI a Anthropic, ktorých Big Tech silno podporuje) majú jeden cieľ, tvrdí Andreessen. Ako napísal na sociálnej sieti X, tým cieľom je vytvoriť „vládou chránený kartel“, ktorý ochráni ich spoločné ciele. Jedinou skutočnou alternatívou sú Elon, startupy a open-source, ich sústredený útok a čoraz menší počet spomaľovačov.
Casado, ktorý v roku 2012 predal networkingový startup Nicira spoločnosti VMware za viac ako miliardu dolárov, už tento príbeh spolu s Andreessenom dobre pozná. Zákonodarcovia sa takto snažili bojovať aj proti spoločnosti Meta, ktorá vďaka sociálnym sieťam získala moc a vyhlásili jej regulačnú vojnu.
Preto sa mnohí tech manažéri teraz snažia pôsobiť umiernene, a to aj napriek tomu, že sympatizujú s open-source a startupovou kultúrou, ktorá vychádza zo Silicon Valley. Veria, že pravidlá si radšej stanovia sami, ako by to mala urobiť Kalifornia či podľa nich ťažkopádna Európska únia. Tá v marci prijala svoj prvý zákon o umelej inteligencii.
FOTO: GUERIN BLASK PRE FORBES
Humanista. Reid Hoffman, vraví, že sa stretne s hocikým, kto chce zlepšiť spoločnosť vďaka AI, nech je z hociktorej politickej strany. “Je dôležité, že AI je vec, ktorá sa týka celej spoločnosti, a tak by mohla byť nadstranícka.”
„Ani neviem povedať, koľkokrát mi už niekto povedal: Martin, súhlasím s tebou, ale reguláciám sa nevyhneme. Tak im to trochu umožnime. Niečo síce stratíme, ale tú stratu si môžeme nadiktovať sami,“ hovorí Casado.
„Debata je užitočná, pretože si v nej ľudia vyjasnia názory,“ reaguje spoluzakladateľ spoločnosti Anthropic Jack Clark. „Silicon Valley klasicky podceňuje tvorbu predpisov, ale až kým nie je príliš neskoro.“
„Daj mi motiváciu a ja ti ukážem výsledok.“ Táto myšlienka, ktorú pripisujú zosnulému Charliemu Mungerovi, známemu investorovi, v tomto boji dokonale vystihuje postoj spoločnosti Sequoia, hovorí jej partner Pat Grady. Aj on je známy investíciami do databáz Hugging Face a do OpenAI, ako aj do startupu Harvey, ktorý vyvíja právnický softvér s použitím AI.
Či už je to Hoffman, Khosla, Andreessen alebo ďalší, čo sa týka umelej inteligencie, každý z nich sleduje svoje vlastné záujmy. Hodnota Khoslovej 50-miliónovej investície do OpenAI by mohla byť v konečnom dôsledku až stonásobne vyššia. Podporil aj spoločnosti v Japonsku a Indii, napríklad Sarvam AI so sídlom v Bangalúre, kde vyvíjajú vlastné modely. Súvisí s tým benefit – mohli by totiž konkurovať umelej inteligencii z Číny. „Je to dôvod, prečo sme vytvorili Sarvam AI. Nechceme byť závislí od Číny či USA,“ hovorí generálny riaditeľ Vivek Raghavan.
Aj Hoffman investoval do OpenAI, no nie cez svoju firmu Greylock, ale prostredníctvom vlastnej nadácie. Má však úzke väzby s Microsoftom, ktorý odkúpil LinkedIn za 26 miliárd dolárov, sedí v jeho správnej rade a bol kľúčovým sprostredkovateľom vzťahov medzi Microsoftom a OpenAI. Hoffman zorganizoval stretnutie predstaviteľov oboch spoločností niekoľko mesiacov pred obrovskou investíciou technologického gigantu. Ešte v januári minulého roka zvolal v dome Billa Gatesa stretnutie Sama Altmana a šéfa Microsoftu Satyu Nadellu. Ďalej má na konte spoluprácu s miliardovým jednorožcom Adept AI, ktorý získal 415 miliónov dolárov na vývoj AI asistentov. A v roku 2022 Hoffman pomohol založiť Inflection AI s priateľom Mustafom Suleymanom, ktorý pracoval v Googli na technológii Deep Brain, neskôr prešiel k Microsoftu na oddelenie spotrebiteľskej AI.
FOTO: GUERIN BLASK PRE FORBES
Vlastné ciele, ideologické, ale aj finančné, sleduje aj Andreessen. Sedí v správnej rade spoločnosti Meta, ktorá v apríli predstavila najnovšiu verziu modelu Llama a vytvorila tak priamu konkurenciu GPT-3. Andreessenova spoločnosť a16z viedla v decembri minulého roka investičné kolo za vyše 400 miliónov dolárov aj do konkurencie OpenAI, a to do parížskeho Mistralu. Ten v súčasnosti zbiera prostriedky pri valuácii údajne okolo 6 miliárd dolárov. Firma však odmietla komentovať svoje podiely v OpenAI.
Tím spoločnosti a16z, ktorého súčasťou bolo dvadsaťsedem interných odborníkov, len nedávno pre americkú Federálnu obchodnú komisiu pripravil zoznam pripomienok a v otvorenom liste vláde prezidenta Bidena varoval pred dôsledkami jeho nariadení pre open-source startupy ako Mistral. Tábor, ktorý je na strane open-source a kritizuje reguláciu umelej inteligencie, sa posťažoval, že sa ich snažia prevalcovať. „Vyhrávajú katastrofisti (doomeri) a sú oveľa viac zorganizovaní,“ hovorí investor Bill Gurley. Rovnako verí, že spoločnosti ako Google, Microsoft, OpenAI a Anthropic sú vystrašené, akou rýchlosťou ich dobiehajú alternatívy open-source umelej inteligencie. Prináša to totiž riziko, že ich drahé modely by sa mohli stať bežnou komoditou. „Takýto sústredený atak na novú technológiu vo Washingtone ešte nebol – s výnimkou (odsúdeného kryptopodvodníka z burzy FTX) Sama Bankmana Frieda,“ hovorí.
V OpenAI sa takýmto obvineniam smejú. „Neviem, či s tým súhlasím, ale sme na to zvyknutí,“ hovorí Brad Lightcap, prevádzkový riaditeľ OpenAI. Google na komentáre nereagoval, zástupca Microsoftu sa vyjadril, že technologickí lídri, ktorí podporujú potenciál umelej inteligencie a ich názory sa čo i len trošku líšia, sú nakoniec aj tak na tej istej lodi. Hoffman, ktorý je skôr diplomatom, sa nad Gurleyho vyjadrením rozhorčí. „Privítal by som, keby Bill so mnou sedel jedenásť rokov v rade Mozilly a priložil ruku k dielu,“ povie a pridá nadávku. „Nech nie je ako nejaký nový Johnny na scéne, ktorý miluje open-source len preto, že to vyhovuje jeho investíciám.“
Partner Index Ventures Mike Volpi pripomína, že starať sa o investície je povinnosťou na burze obchodovanej firmy. Sám sedí v rade firmy biznisového AI jednorožca Cohere. Pripúšťa, že snaha obrániť si pozíciu lídra na trhu je u veľkých hráčov „platným“ vysvetlením ich správania. Tvrdí však, že tieto firmy, ktoré sú veľkými poskytovateľmi tohto softvéru spotrebiteľom, sa prirodzene budú snažiť riešiť obavy širokej skupiny masových zákazníkov, ktorí nie sú presvedčení, že AI je dobrá vec. „Sú oveľa silnejší, ale zase slúžia väčšiemu počtu ľudí,“ vraví.
A potom je tu Elon Musk, niekdajší najbohatší človek sveta, ktorý otvorene podporuje zástancov open-source. V marci minulého roka vyzval na šesťmesačnú prestávku vo vývoji AI modelov, a to najmä z bezpečnostných dôvodov, čo možno považovať za absolútne katastrofický („doomerský“) prístup. Nestalo sa tak a Musk o štyri mesiace oznámil príchod X.ai, konkurenta OpenAI. Následne zažaloval bývalých spolupracovníkov, že sa odklonili od spoločnej misie. (OpenAI reagoval, že „chce dosiahnuť, aby všetky Elonove tvrdenia boli odmietnuté“, a ďalej prípad nekomentoval.) V máji dosiahla X.ai valuáciu 24 miliárd dolárov.
Ako pre Forbes poznamenal jeden z diskutujúcich v publiku Khoslovej prednášky vo Washingtone, tí najväčší nadšenci AI a jej schopností sa často najviac strachujú, že bude zneužitá. Keď sa podľa nich začne AI regulovať, môže to byť otázka života a smrti pre milióny ľudí. Ich rivali, ktorí si zasa myslia, že podobné obavy sú prehnané, sa pravdepodobne držia viac pri zemi, keď sa hovorí o budúcom dramatickom vplyve umelej inteligencie.
„Buď je AI veľkým strašiakom a hrozbou a veľké vývojárske firmy musia byť okamžite zoštátnené a podriadené armáde, alebo je AI iba softvér a matematika a strašenie spolu s lobovaním za jej reguláciu musí prestať. Jedno alebo druhé,“ napísal Andreessen v marci. Rovnako tvrdí, že Čína by mala mať obmedzený prístup k umelej inteligencii z USA, keďže jej agenti už každú noc dávno sťahujú najnovšie verzie softvérov. Obmedziť prístup k modelom by tak bolo akoby zabarikádovať dvere, hoci zlodeji už sú v dome. Spojené štáty by podľa neho mali presadzovať vlastnú silu a vlastnú AI vrátane jej exportu do Číny.
Pre Hoffmana a ďalších zástancov regulácie nie je potenciál, že model AI niekto zneužije, dôvodom, prečo nechať kľúče od tanku v zapaľovaní, ako to hovorí Clark z Anthropicu. Ak USA obmedzia prístup k AI modelom, nemusí sa im podariť zabrániť ich protivníkom, aby sami dosahovali významné pokroky, a už vôbec nie v tom, aby si sami povedali, čo s nimi budú robiť. Môže ich však donútiť, aby museli vyvíjať aj to, čo už USA vyvinuli, vraví Khosla. „Neverím, že argument o tom, že mačka už je vonku z vreca, platí.“ Časom bude dostupných veľa open-source nástrojov umelej inteligencie. „Svet sa inšpiruje tým, čo sa udeje v USA.“
Budúcnosť šialene rýchlej inovácie s nepredstaviteľne problematickými dôsledkami? Zmonopolizovaný svet, v ktorom skupinka opatrných obmedzuje pokrok? Ani jedna strana neverí, že budúcnosť podľa scenára tej druhej je reálna. Všetci však cítia naliehavosť, či už ide o to, ako diskutovať s legislatívnymi orgánmi, alebo zabezpečiť, aby aj tí slabší nezostali celkom pozadu. Fei-Fei Li zo Stanfordského inštitútu pre umelú inteligenciu zameranú na človeka hovorí o skutočných obavách z regulácie vo vzťahu k akademickej sfére a verejnému sektoru. „Aj v dažďovom pralese musia veľké stromy občas nájsť spôsob, ako dovoliť slnečným lúčom prejsť dolu, aby zakvitli aj kvety,“ varuje Li.
Hoffman je väčší optimista. „Hra je v plnom prúde a všetci chceme zabezpečiť, aby z toho malo ľudstvo iba osoh,“ odpovedá. „Je ešte veľmi skoro a každý, kto si myslí, že už teraz vie, čo je správne, buď klame sám seba, alebo klame vás,“ dodáva. „Učme sa spoločne.“
