Tony Fadell, bývalý šéf divízie iPodu v Appli a neskorší zakladateľ Nest Labs, tvrdí, že ľudstvo má šancu spolunažívať s umelou inteligenciou v mieri. Ďalší vývoj tejto prelomovej technológie a najmä jej nasadenie v praxi však nesmieme iba pasívne sledovať.
Čo sa to stalo pred pár mesiacmi? Rôzny softvér s umelou inteligenciou tu už je asi desaťročie, čo teda spôsobilo ten prelom, ktorý sledujeme?
Doteraz bola AI pod povrchom, nemala tvár. Teraz sme ju trochu antropomorfizovali. Pritom už doteraz robila zaujímavé veci – vyberala časti z fotiek, automaticky dopĺňala formuláre, vyhľadávala na Googli. Teraz sa s nami môže akoby porozprávať, hoci ten, kto odpovedá, sme v skutočnosti my. Nie je to nijaká rozmýšľajúca bytosť, sme to len my a celé je to vlastne taký šikovný hack.
Nemôžeme dovoliť, aby sa AI sama replikovala a sama učila. Nevieme, čo sa vnútri deje.
Ústava pre AI?
V čom sa ten softvér najviac líši od živej bytosti?
My ľudia máme nejakú objektívnu funkciu. Hodnoty, morálku, osobnosť. Aká je objektívna funkcia tejto veci? Robí všetko možné, ale chýba jej rámec, čosi nad tou sumou dát, ktoré vložíme do systému, nejaká ústava, do ktorej tú AI zasadíte.
Máme už mnoho použití, ale nezamysleli sme sa nad tým, na akom základe má byť AI vybudovaná. Prvé reakcie zatiaľ prichádzajú v podobe žalôb, ľudia namietajú, že umelá inteligencia preberá ich nápady. Aký však má byť celkový prístup, vďaka ktorému AI zostane v rámci svojich hraníc? To sú otázky, ktoré musíme vyriešiť.
Čo môže byť tým rámcom?
Zatiaľ máme viacero spôsobov, ako s AI interagujeme. Doteraz boli asi najviditeľnejšie lepšie nástroje pre kreatívnu prácu. Začalo sa to, povedzme, fotoshopovými filtrami, potom sa to vďaka Midjourney posunulo do obrázkov a aj do generovania textov a audia. To je generatívna AI. Iná úroveň je ale AI, ktorú používate ako asistenta. Tu si ešte stále poviete – to ja zadám úlohu, asistent ju spraví, ale ja to stále ovládam.
Ale potom je tu napríklad aj úroveň, keď sa prostredníctvom AI učíte, ako v Khan Academy. Ja niečo urobím a AI ma skritizuje či posúdi. To už je pomerne čudný vzťah, kde nie je až také jasné, kto ovláda koho. A ako zabezpečíme, aby sa nedostala ešte ďalej? Tým viac, že AI softvérov už sú v teréne tisíce, pravdepodobne aj stovky tisícov.
Zrejme sa budeme musieť oveľa viac zaujímať, tak, ako sa zaujímame o životopis ľudí, aký je životopis tejto konkrétnej umelej inteligencie? Aké dáta boli použité na jej tréning? Musíme do tejto oblasti dostať oveľa viac transparentnosti. Potom si budeme môcť vybrať, koho chceme počúvať a koho nie.
Potrebujeme reguláciu ako pre jadrové zbrane
V zmysle – ktorý softvér je dôveryhodný? Kto nám ho vyberie, kto o tom rozhodne?
V praxi hovoríme o celých nových sektoroch, firmách, ktoré ešte len vznikajú. Rôzne AI budú schopné napríklad aj bojovať proti sebe, viesť vojnu, tak ako dnes ľudia, ale na novej úrovni. Budeme musieť vytvoriť najrôznejšie systémové zábrany, firewally či testovacie systémy, podobné ako dnes máme vo vzdelávaní, všetky tie SAT-y, len pre umelú inteligenciu.
Nemyslím si, že je AI technológia, ktorá by sa vedela vymknúť spod kontroly. Teda, ak jej to nedovolíme.
Som tiež presvedčený, že nemôžeme dovoliť, aby sa AI sama replikovala a sama učila. Nevieme, čo sa vnútri deje. V rámci session sa systém niečo naučí a, povedzme, že si to aj niekde uloží, ale nereintegruje ani nekonsoliduje sa to späť do základného modelu. Ak to začne robiť a ak dostane možnosť učiť sa z toho, čo sa každý deň stane na webe, generované poznatky naozaj explodujú.
Slabší systém sa potom pre inú AI môže stať robotom, tak, ako sú dnes robotmi niektorí ľudia, ak na nich použijete digitálne nástroje. Ľuďom sa dá vymyť mozog, ale aj AI sa dá vymyť mozog. Hovoríme tu o takom Prekrásnom novom svete ako od Huxleyho.
„V kyberpriestore už vojna prebieha, sčasti aj s umelou inteligenciou,“ hovorí technologický vizionár Tony Fadell. Foto: Flickr/Web Summit, licencia CC BY 2.0
Ako ho dostaneme pod kontrolu?
Keby som to len vedel! Je mnoho techník, postupov, ako sa to dá riešiť. Otázka je, máme vôľu, máme ochotu to urobiť, ako sme to urobili s drogami? Alebo s jadrovými zbraňami? Pre AI potrebujeme zmluvy, asi ako bola SALT pre jadrové zbrane.
Žiaľ, tu ide o bity, o čísla, nie o fyzické predmety. Tie sa kontrolujú ľahšie. Ak môžete tieto bity vybudovať na hocijakom procesore, ktorý máte v mobile, je to, akoby ste v každej garáži mali malé jadrové laboratórium. Viem, ako sa to dá riešiť? Nie. Vie to niekto? Nemám ten pocit. Potrebujeme to brať nesmierne vážne? Áno!
Ste pesimista?
Musím byť optimista. Súčasne je tu aj obrovský prísľub, prínos. Prekročili sme však nový míľnik a teraz vidíme, že veľa ľudí hovorí – berme to vážne. Napríklad, reagovať tak, že dočasne zastavíme vývoj AI, to mi zmysel nedáva. Potrebujeme globálnu diskusiu, najrôznejšie nové nástroje a ich skutočnú implementáciu.
Prísľubom je, že ak sa pozriete na počty ľudí, ktorí sa téme venujú, počty štúdií, ktoré vznikajú, vidíte, že nesmierne múdri ľudia zahodili všetko, čo robia, vrátane mňa samotného, a sústredili sa na túto oblasť. Nie je to taký vývoj, akým prešla klimatická zmena, keď išlo o proces pomalého varenia žaby. Toto je iný typ existenciálnej otázky.
A umelú inteligenciu, na rozdiel od klímy, dokážeme opraviť relatívne rýchlo, lebo je to oblasť bitov a nie drahá fyzická infraštruktúra.
Takže svet sa zobudil?
Je to krásne vidieť. Niečo vymyslíme. Bude to perfektné? Nehrozí. Budú s tým problémy? Absolútne, ale to prináša každá nová technológia. Myslím si, že tento problém budeme schopní vyriešiť – ak budeme mať vôľu. Nemyslím si, že je to technológia, ktorá by sa vedela vymknúť spod kontroly, teda, ak jej to nedovolíme.
Ako by také niečo mohlo nastať? Bude to vedomé rozhodnutie nejakej firmy alebo vlády, ktorá nejakú prelomovú AI integruje napríklad do zbraní?
To sú nesmierne dôležité otázky. Už sme videli, čo sa deje na Ukrajine s dronmi. Môžete vypustiť celé kŕdle dronov s najrôznejšími senzormi a mení to spôsob vedenia vojny. Ale ešte som nepovedal jednu vec – AI je odrazom nás.
Je to mozog, ale nemá I/O (vstup a výstup, teda operáciu, program alebo zariadenie, ktoré prenáša dáta do alebo z počítača, pozn. red.), nemá oči. Možno sa ich postupom času podarí zostrojiť. Ale ten vstup? My sme tie senzory, výsledky našej činnosti.
Ľudia nemajú len pár senzorov, majú ich milióny. Ak sa vám zježia chlpy, tak asi niečo nie je v poriadku. Tieto mašiny nemajú nič, čo by sa s tým dalo porovnať. Dokážu zobrať to, čo sme zaznamenali my, dať to dohromady, akoby sa nad tým zamyslieť, ale nevedia vycítiť nové veci a nové informácie.
Myslím, že tu je miesto na koevolúciu – až kým jedného dňa nebudú mať AI hyperspektrálne videnie a hypertaktilný hmat a chuť a čuch. Potom budú naozaj vnímať svet.
Čo bude potom?
Možno sa stanú akýmsi mozgom v akváriu. S vonkajším svetom budú prepojené tým, že budú schopné učiť sa podobným spôsobom ako my a budú mať aj nejaké takéto zmysly. Ale to je špekulácia.
Čo viem, je, že mám viac ako päť zmyslov a rozhodujem sa inak, ako iba tým, že použijem výsledky práce výlučne týchto piatich zmyslov. Trošku zabieham, ale to je preto, že sa snažím sa v tejto oblasti zorientovať, ako sa to v súčasnosti snaží asi každý.
Tony Fadell sa niekedy označuje za otca ipodu. Foto: Unsplash, Brett Jordan
Tony Fadell sa niekedy označuje za otca ipodu. Foto: Unsplash, Brett Jordan
Vracia sa s príchodom masovej AI celý „digitál“ na začiatok?
V tejto oblasti robím viac ako 35 rokov a zažil som nástup počítačov, sietí, internetu, potom som sa podieľal na zostrojení mobilov a potom prišiel IoT (internet vecí, pozn. red.) a podobne. Ale niečo ako toto som ešte nevidel. Je to niečo úplne nové. Pamätáte si na firmy „internet first“, „mobile first“? A čo budú tie skutočné AI first firmy? Prvé, čo vidíme, sú len také „mobile plus AI“ firmy, alebo ako ich teraz nazvať.
Ale čo sa presadí ako skutočné AI first, najmä keď sa ešte ďalej posunie aj hardvér? Bez posunu hardvéru nevieme využiť potenciál umelej inteligencie naplno, sme obmedzení podobne, ako bol kedysi internet potrebou sedieť za počítačom.
Nehraj sa so zápalkami!
Poďme ešte k „výchove“. Deťom sa hovorí: Nehrajte sa so zápalkami, to je „nono“. Čo sa hovorí AI?
To je ešte ďalší faktor. My poznáme bolesť. Toto sa nedokáže učiť z bolesti. Nemá to vinu. Je to len nadstavba počítačovej siete. Aké sú dôsledky? To je to, na čo ešte len musíme prísť. Potrebujeme nejakých desať prikázaní pre AI. To je téma, ktorej sa venovali už ľudia ako Isaac Asimov. Teraz ju budeme musieť veľmi vážnym spôsobom rozšíriť a prehĺbiť.
Klasickí sci-fi autori mali dobré tušenie, však?
Neuveriteľné! Panebože, geniálne! Pozrite si film 2001: Vesmírna odysea z roku 1968, počúvajte, o čo v tom filme ide. Pozrite sa na ten scenár a poviete si: „Preboha! Veď toto je celá nová verzia ľudstva, ľudskej povahy, nátury.“ Oni tomu rozumeli. Rôzne umelé inteligencie sa stanú reprezentáciou ľudskej povahy, reflexiou nás samotných v digitálnej forme.
Ale ak zo seba vieme urobiť digitálne dvojičky, tak prečo nezobrať výber toho najlepšieho, čo sme dokázali, tie najlepšie štúdie, najlepšie výsledky ľudskej práce a nevytvoriť skutočne skvelú AI?
Prečo to robíme tak, že jej dáme všetko, čo leží na internete, a až potom pátrame po veciach, ktoré sa nám nepáčia alebo ktoré sa nám nejako nezdajú? Takto by sa to celé riešilo od základu.
Už v tom filme išlo o to, aké je CV tých AI agentov. Chcem vedieť, kam chodili do školy, z čoho sa učili, z akých dát! Tak, ako sa dnes môžete pozrieť na moje vysvedčenia.
Z čoho som mal zlé známky? Aké skúšky som robil? Keď už je toto celé len ľudská myseľ v digitálnom vyjadrení, tak prečo na to nepoužívame tie isté pravidlá, ako na nás samotných?
Toxický vzťah
Aké sú hranice rozumnej bytosti? Čo je to dnes „sentient being“?
Neverím, že toto dokáže byť rozumné, lebo to nemá input, o ktorom som hovoril. Môže to syntetizovať v tom zmysle, že vygeneruje frázu „Milujem ťa“. No, tak to teda určite! Ale, pravda je, že chatboty už dokážu fungovať ako nejakí proroci náboženstva. Ľudia s nimi dokážu mať vzťah, väzbu. A ukázalo sa, že ak ju prerušili, mali z toho ľudia citové problémy. Toto je niečo, čoho sa treba obávať.
Ak sa tieto veci natoľko antropomorfizujú, že s nimi ľudia začnú mať vzťahy a cítiť voči nim emócie, tak to môže byť problém. Toto je ďalšia zajačia nora, cez ktorú si asi prejdeme a v ktorej sa budeme musieť nejako zorientovať.
Foto: Unsplash, Sincerely Media
Foto: Unsplash, Sincerely Media
Posledné mesiace hovorí svet najmä o ChatGPT, čo je AI, ktorá vám na otázku v ľudskej reči vygeneruje nejakú, často aj šialene nezmyselnú odpoveď. Neschopnosť rozlíšiť polopravdu od „celej lži“ je dosť hrozivá, nie?
Je. Ale nemôžeme pred tým zutekať. Musíme sa tomu venovať. Generatívna AI zoberie prvý vstup od ľudí, potom generuje nad ním a potom na ešte vyššej úrovni. Trošku to pripomína, ako keby ste urobili analógovú fotku analógovej fotky analógovej fotky… Postupne to degraduje, trochu ako pri niekdajších kazetách, ktoré kopírovaním degradovali, a preto ste potrebovali remastering.
Tu hovoríme o digital fidelity. Čo sa stane s informáciou, zdegraduje tiež? Keď už bude nepoužiteľná, prihlásia sa potom o slovo opäť ľudia? Pretože si s ňou nebudú vedieť poradiť? Len ľudia zatiaľ dokážu tvoriť originálne nové veci, ak sa učia z dobrých podkladov. A stále je to na nás, aby sme dokázali rozumne koexistovať.
Ani tvorcovia netušia, ako to funguje
Kto je to „nás“, kto sme „my“? Kto vytvorí a vynúti tie pravidlá?
Skvelá otázka. Keby som len mal odpoveď! Potrebujeme mimovládny orgán, ktorý by tieto veci prešiel a riešil? Ja neviem. Táto oblasť je stará päť mesiacov, ja sa jej venujem ani nie štyri…
Generálny riaditeľ OpenAI Sam Altman. FOTO: SITA, AP
Generálny riaditeľ OpenAI Sam Altman na vypočutí v americkom Senáte. FOTO: SITA, AP
Európa nedávno prišla s právnym rámcom GDPR, výsledky sú rozpačité.
Aj Spojené štáty sa začínajú tejto oblasti venovať. Či už sú takéto nariadenia popletené alebo nezmyselné, aspoň sa o niečo snažia. Musíme sa snažiť a uvidíme, kam sa dostaneme. To je jediné, čo vieme robiť. Nikto nemá odpoveď. Ľudia, ktorí toto celé vytvorili, a mnohých poznám osobne, tiež nemajú šajn, ako to celé funguje. Stále sa na to snažia prísť.
A skutočne potrebujeme vedieť, kto je ten autopilot v Tesle. Keď bude AI skutočne objavovať liečivá, účinné látky, budeme musieť vedieť, ako funguje. Už nebude stačiť povedať – no, veď nejako to prišlo na odpoveď a ono to funguje…
Na webe sme vo vojne
Mali sme šťastie, že AI nevynašiel Usáma bin Ládin alebo Severná Kórea?
Našťastie máme na našej strane dostatočný arzenál, garantujúci vzájomné zničenie, tak ako v prípade jadrových zbraní, ktoré mieria na tú druhú stranu. Aj AI môže ísť do vojny, napokon, v kyberpriestore už vojna prebieha, sčasti aj s umelou inteligenciou. Sú to ale AI prvej a druhej generácie, nie tie, o ktorých hovoríme teraz. Ale už sme vo vojne asi desať rokov, akurát si to veľa ľudí nevšimlo.
Čo po prvom prieniku AI do bežného používania príde ďalej?
Podobne, ako bol napríklad rozdiel medzi Internetom 1.0 a 2.0, bude to nejaký zlom, na ktorý ešte len prídeme. Netuším. Naozaj nie. Ale žijeme skutočne vo veľmi zaujímavých časoch. Je to nová a zásadná diskusia a na celé desaťročia sa jej nezbavíme, ak vôbec niekedy.
Tieto otázky sa týkajú ľudstva, podstaty toho, čo je to človek. Konečne máme niečo, čo môžeme obrátiť na seba a pozrieť sa na seba s odstupom. Ale to môžeme využiť aj pri skúmaní AI.
Ako?
Môžeme položiť otázku, získať odpoveď a potom sa spýtať: Prečo to povedalo práve toto? Ak máte dobré nástroje, môžete ísť späť do dát a nájsť to tam – aha, tuto sa to vzalo! Možno je toto spôsob, ako by sme mohli vybudovať aj lepšie filtrovanie pre web.
Ak zo seba vieme urobiť digitálne dvojičky, tak prečo nezobrať výber toho najlepšieho, čo sme dokázali, tie najlepšie štúdie, najlepšie výsledky ľudskej práce a nevytvoriť skutočne skvelú AI?
Posunuli sme sa totiž preč zo sveta, v ktorom ľudia vo vašej bubline vedeli, kto ste a že ste to vy. Prešli sme érou internetu, keď niektorí povedali: Ja chcem byť anonym a mať avatar. Kyvadlo sa teraz vracia naspäť, potrebujeme verifikovateľnú identitu, dôkaz živosti a digitálnu identitu.
Teraz nevieme, či ten, s kým sa bavíte, je AI agent, deep fake, nejaký druh maškarády… Potrebujeme dôkaz živosti, ktorý sa nebude dať hacknúť. Predsa inak budeme v rozhovore pristupovať k živému a inak k neživému partnerovi.
Na začiatku sme mali web postavený na dôvere. Potom sa dôvera narušila a teraz ju budeme musieť obnoviť. Momentálne nemáme svetlý internet. Máme temný web a internet šedej zóny.
Kto ponesie zodpovednosť za chyby?
Sčasti je to aj preto, že, ako hovorí Facebook, je to „zadarmo a vždy bude“?
Teraz budeme mať viac paywallov. Žurnalistika si tým už prešla. Teraz prichádza potreba na konci článku deklarovať „toto napísal človek s použitím takého a takého nástroja.“ Tak, ako to máme na konci kníh – ja som to napísal, ale použil som tieto a tieto zdroje. Budeme mať takéto zoznamy ingrediencií ako na potravinách. Bude od toho závisieť vaša reputácia.
Aj naše životy, ak začne umelá inteligencia operovať, nie?
Áno, vaše životy. Ste lekár? Aké AI používate? Chcem to vedieť! Kúpite si Teslu? Má tieto a tieto AI nástroje. S tým totiž súvisia aj otázky: Kto za to môže? Koho mám zažalovať, ak príde nejaký problém?
Nemôžeme povedať, že začneme používať AI „len tak“ a potom uvažovať že – no, môže za to tá aplikácia, tak čo teraz? Nie je to také jednoduché, prísť na to, kto za to môže. Je to váš kopilot auta, bude v pozícii robota či zamestnanca?
To sme v sci-fi už naplno, nie?
Máte tu zamestnanca a tu vedľa neho digitálneho zamestnanca. Doslova. Vymeníte ich? Ktorý má aké CV, koľko im mám zaplatiť? Možno prídu aj uveriteľné digitálne zosobnenia, reprezentácie ľudí. Tie potom prijmete do práce. Už dnes často vidíte v rámci virtual work iba ľudí na Zoome, do práce už nechodia.
Foto: Cash Macanya, Unsplash
Foto: Unsplash/Cash Macanya
Posunie sa to o úroveň ďalej, k digitálnej reprezentácii? Naklonujú si ľudia päť digitálnych zástupcov a budú mať päť rôznych zamestnaní? Veľmi rýchlo sa tu dostávame do veľmi zvláštnych situácií.
Už dnes pripravuje AI pre lekárov prehľad aktuálnej literatúry o liečbe ochorení, ktoré sa podobajú diagnóze konkrétneho pacienta. Neurčuje tak vlastne, akú dostane liečbu? Ako si môžeme byť istí, že rozlíši hlúposti a podvrhy od relevantných štúdií?
Spomínate si na 80. a 90. roky, keď sa hovorilo „urobme cleanroom verziu“? Možno tento prístup, vytvoríme to riešenie od začiatku, vybudujeme krok po kroku, čoskoro opäť vo väčšom uvidíme. A bude sa to volať Frankenstein GPT…
Tony Fadell prišiel na Slovensko s podporou Esetu, aby propagoval budúcoročný festival vedy a technológií Starmus. Časť rozhovoru pochádza z jeho príhovoru na tlačovej konferencii.
