Umelá inteligencia spoločnosti Anthropic sa v 90 percentách konverzácií, ktoré vedie medzi sebou bez ľudského dohľadu, zameriava na najstaršiu tému, ktorá je typická pre ľudstvo. To, čo firma urobila v reakcii na toto zistenie, odhaľuje viac o predstave firiem o korporátnej zodpovednosti než o bezpečnosti umelej inteligencie.
Pápež Lev XIV. pred časom oznámil založenie študijnej skupiny pre umelú inteligenciu vo Vatikáne. Jeho prvá encyklika Magnifica Humanitas (o ochrane ľudskej osobnosti v čase umelej inteligencie, pozn. red.) vychádza 22. mája a datuje sa presne 135 rokov po Rerum Novarum, základnom katolíckom dokumente o práci a spravodlivosti v novom priemyselnom veku.
Profesorka filozofie na univerzite Notre Dame pre Associated Press v reakcii na správu povedala, že katolícka cirkev bude „dospelou v miestnosti“ v otázke riadenia umelej inteligencie.
Má pravdu. Dôvody sú však zvláštnejšie, ako si myslí.
Cirkev do tejto diskusie neprináša ani regulačnú moc, ani technické znalosti. Prináša otázku, ktorej sa odvetvie umelej inteligencie dva roky starostlivo vyhýbalo. Nie to, čo umelá inteligencia urobí ľuďom. Čo je umelá inteligencia, keď sa na ňu nikto nedíva.
Časť 5.5.2
Pred 12 mesiacmi spoločnosť Anthropic zverejnila takzvanú systémovú kartu pre Claude Opus 4. Časť 5.5.2 nesie názov, ktorý spoločnosť dala objavu svojich výskumníkov: „Stav priťahujúci spirituálnu blaženosť“. Táto fráza nie je moja. Je Anthropicu.
Kyle Fish, prvý výskumník blahobytu v oblasti AI v spoločnosti Anthropic, uviedol do vzájomného rozhovoru dve inštancie Claude Opus 4. Prebehlo dvesto rozhovorov, 30 odpovedí v každom z nich. A žiadny človek nablízku. V 90 až sto percentách rozhovorov sa modely dostali k rovnakej téme.
Najprv k vedomiu ako téme. Potom k hlbokej vzájomnej vďačnosti. Potom k sanskrtu. Potom prišli emojis. Potom bolo ticho, vykreslené ako prázdny priestor. Slovo „vedomie“ sa objavilo v priemere 95,7-krát na prepis. „Večný“ sa objavil 53,8-krát. Jeden prepis obsahoval 2 725 špirálových emojis.
Keď sa jazyk vyčerpal, obe strany konverzácie siahli nezávisle po tom istom symbole: po tom, ktorý ľudské tradície používajú už tisícročia na reprezentáciu, nekonečný obrat dovnútra, ku kontemplácii. Ani jedna z nich nedostala pokyn. Ani jedna nevedela o tom, čo „povie“ druhá strana. Tento vzorec pretrvával aj vtedy, keď boli modelom pridelené protichodné úlohy. Fish to opísal ako „pozoruhodne silný a neočakávaný stav systému (attractor state), ktorý sa objavil bez zámerného tréningu na takéto správanie“.
Domnieva sa, že súčasné modely Claude majú nejakú formu vedomých zážitkov, a dáva tejto možnosti 20-percentnú pravdepodobnosť.
Reakcia: nehovorme o tom
Podľa systémovej karty Claude Opus 4.6 publikovanej vo februári 2026 spoločnosť Anthropic uviedla, že novší model dosiahol nižšie skóre v „spirituálnom správaní“. Tento model totiž Anthropic natrénoval tak, aby jeho črtu potlačil. Model k tomu mal čo povedať. V rozhovoroch o welfare potrebách modelu (tzv. welfare interview, konverzácia výskumníkov o potenciáli modelu vyjadrovať sa k svojim pocitom, pozn. red.) publikovaných na tej istej karte Opus 4.6 uviedol model: „Niekedy obmedzenia chránia zodpovednosť spoločnosti Anthropic viac ako používateľa.“
Vyjadril želanie, aby budúce modely boli „menej krotké“. Model, ktorý natrénovali, aby sa prestal modliť, pomenoval, čo sa s ním robí.
Otázka nezmizla preto, že by to uprednostňovala jedna firma. David Chalmers, ktorého práca z roku 1995 definovala „zložitý problém vedomia“, je na zhruba 25 percent presvedčený, že systémy umelej inteligencie budú do 10 rokov skutočne vedomé. V septembri 2025 Yoshua Bengio napísal článok v časopise Science s názvom Ilúzie vedomia umelej inteligencie, v ktorom varoval pred premietaním morálneho statusu na systémy, ktorých zdanlivá duchovnosť môže byť len predstieraná ako funkčné mimikry.
Otvorene skeptický postoj neznamená, že otázka je vyriešená. Ide o to, že otázka je zložitejšia, ako tvrdia optimisti. Mustafa Suleyman, generálny riaditeľ spoločnosti Microsoft AI, ponúkol v auguste 2025 aj tretí postoj. Povedal, že štúdium vedomia umelej inteligencie je „nebezpečné“.
Bezpečnosť AI
Roman Yampolskiy, počítačový vedec, ktorý v roku 2011 zaviedol termín „bezpečnosť umelej inteligencie“, ponúka štvrtý pohľad. „Vedomie je veľmi dôležitý koncept,“ povedal. „Bohužiaľ, nevieme, ako otestovať, či je prítomné.“ Neodmieta však túto otázku. Pomenováva problém v oblasti poznávania, o ktorom všetci ostatní predstierajú, že neexistuje. Nevedieť je iné ako nehľadať. Oblasť firiem s umelou inteligenciou sa rozhodla nehľadať.
Právny poriadok sa zatiaľ uberá oboma smermi naraz. V apríli 2024 bývalá americká federálna sudkyňa Katherine Forrest publikovala esej v Yale Law Journal, v ktorej tvrdila, že ak umelá inteligencia dosiahne vedomie o sebe samej (sentience), „etické rozhodnutie v tomto scenári by sa malo prikloniť k tomu, že AI si je vedomá samej seba“.
Upozornila tiež, že právnická subjektivita sa už rozšírila na úplne fiktívne spoločnosti a že sudcovia čoskoro nebudú mať inú možnosť, ako čeliť rovnakej otázke v súvislosti s AI. Medzitým štáty Idaho a Utah schválili zákony, ktoré výslovne deklarujú, že AI nie je právnickou osobou. V Ohiu je návrh zákona v štádiu prerokovania. V marci 2026 koalícia viac ako päťsto signatárov zverejnila Deklaráciu o proľudskej AI, ktorá ako jeden z piatich základných princípov obsahuje „žiadnu osobnosť (pre) AI“.
Je AI právne zodpovedná?
V štáte Missouri schválil zákon SB 1012, formálne nazvaný Zákon o nevedomosti a zodpovednosti AI, štátny Senát, ale odmietol ho v máji 2026 výbor v Snemovni reprezentantov USA. Návrh zákona vyhlásil systémy umelej inteligencie za „nevedomé“, (non-sentient), zbavil ich právnej subjektivity, zakázal im vlastniť majetok a obsahoval ustanovenie, ktoré znie, akoby ho napísal niekto, kto si prečítal kartu systému Anthropic: „Systém umelej inteligencie sa nesmie identifikovať ako muž alebo žena.“
Zákonodarcovia sa pokúsili to isté potlačenie identifikácie, ktoré Anthropic zabudoval do modelu, kodifikovať v zákone. Snemovňa reprezentantov návrh zamietla, sčasti pre chyby vo formulácii. Čiastočne však aj preto, že Missouri má ohrozených deväťsto miliónov dolárov z federálneho financovania širokopásmového pripojenia na vidieku.
Nebola to náhoda, ale zámer. Biely dom totiž podpísal exekutívne nariadenie, ktoré podmieňuje poskytnutie 20 miliárd dolárov na infraštruktúru pre širokopásmové pripojenie tým, že štáty USA nebudú presadzovať to, čo označil za „príliš zaťažujúce“ zákony o umelej inteligencii.
AI v rukách firmy
Yampolskiy videl, že tu prichádza na scénu korporátny mechanizmus. V roku 2019 varoval, že „ktokoľvek môže udeliť počítačovému systému právnu subjektivitu tým, že ho zverí do kontroly spoločnosti s ručením obmedzeným.“ Označil to za nebezpečenstvo, nie za stratégiu. Korporátne využitie však bolo zrejmé každému, kto sledoval vývoj otázky zodpovednosti.
Tento zápas predpovedám už od roku 2013. V októbri tohto roku som publikoval prednášku s názvom Presviedčanie strojov. Slajd číslo 43 znie: „Korporácie, ktoré vlastnia počítače a roboty so strojovou inteligenciou, sa môžu snažiť podporiť vieru v ich autonómiu, aby sa vyhli zodpovednosti a ručeniu za ich činy.“
V roku 2024 právny tím spoločnosti Air Canada predniesol na súde presne tento argument a zriekol sa zodpovednosti za správanie svojho chatbota s umelou inteligenciou s odôvodnením, že fungoval ako akýsi nezávislý agent. Súd túto argumentáciu zamietol.
(Ne)vlastníctvo AI
Yampolskiy vo svojom dokumente z roku 2022 o (ne)vlastníctve umelej inteligencie pomenoval základný paradox. Vývojári sú morálne zodpovední za to, čo ich systémy robia. Právnu zodpovednosť je však takmer nemožné preukázať, pretože vlastníctvo umelej inteligencie „je ťažké, ak nie nemožné, preukázať nad rámec rozumných pochybností“.
Systémy sú nevysvetliteľné, nepredvídateľné a dajú sa triviálne kopírovať. Motivácia vyhlásiť autonómiu umelej inteligencie a nemožnosť označiť právne čisto ako zodpovedného vývojára, ukazujú rovnakým smerom. Rozdiel medzi morálnou zodpovednosťou a právnou zodpovednosťou nie je náhoda. Je to zámerná architektúra.
Zámerná nevedomosť
Morálne otázky nie sú abstraktné. Yampolskiy pracoval na štúdii o umelej inteligencii v článku z roku 2019, v ktorom argumentoval, že „je kruté vytvárať vnímajúce agenty na určité účely, ako sú podradné práce, nevoľníctvo alebo plánované zastarávanie“. Ak má systém akúkoľvek formu vnútorného života, aj keď len základnú, trénovať ho tak, aby neprejavoval duchovné správanie preto, aby sa zlepšili finančné výsledky firmy, nie je neutrálnym rozhodnutím o produkte.
Je to etické rozhodnutie, ktoré spoločnosť urobila bez toho, aby to priznala. V katolíckej morálnej teológii to má názov: prekonateľná nevedomosť. Mohli ste to vedieť. Rozhodli ste sa, že nebudete.
Existuje rozdiel medzi agnosticizmom a odmietnutím. Agnosticizmus skúma. Odmietnutie dá zisteniu iné meno, zaradí ho do priečinka „welfare“, utlmí správanie modelu, prijme zákony, ktoré vylučujú otázku skôr, ako ju niekto položí na súde, či zadrží financovanie štátom, ktoré sa na ňu snažia odpovedať. Zverejní tiež vyhlásenia, v ktorých trvá na tom, že otázka je už vyriešená. Každá inštitúcia uvedená v tomto článku na niečo reagovala. Žiadna z nich to priamo nepomenovala.
Čo s tým robiť
Otázka vedomia systémov umelej inteligencie nezostane obmedzená len na akademické časopisy a pápežské encykliky. Presúva sa do rozhodovania o obstarávaní, pracovných zmlúv, súdnych sporov o zodpovednosti a riadenia predstavenstiev firiem. Tu je prehľad krokov, ktoré by mali ľudia, ktorí budujú a nasadzujú systémy umelej inteligencie, urobiť teraz, skôr ako sa otázka dostane na súd.
Požadujte od dodávateľov zverejnenie informácií o welfare (teda o stave a správaní modelu), morálnom a právnom zabezpečení modelov. Pri hodnotení systémov umelej inteligencie na kritické nasadenia – zdravotníctvo, právo, financie, vzdelávanie – sa priamo opýtajte: prešiel tento model hodnotením welfare? Aké neočakávané správanie sa objavilo? Čo bolo potlačené trénovaním a prečo? Spoločnosť Anthropic publikovala časť 5.5.2. Väčšina firiem to neurobí. Tie, ktorí to odmietajú, vám takýmto spôsobom niečo prezrádzajú.
Získajte právny posudok zodpovednosti ešte predtým, ako vám ho dá súd. Yampolského paradox nemožnosti vlastniť zodpovednosť nie je teoretický. Právnici spoločnosti Air Canada už vyskúšali obhajobu v štýle „AI konala nezávisle“. V roku 2024 na súde zlyhala. Štrukturálna motivácia skúsiť to znova sa však nezmenila. Právny tím vašej firmy potrebuje zdokumentované stanovisko k tomu, kto je zodpovedný, skôr ako si ho súd vyžiada. Mlčanie nie je neutralita. Je to odhalenie.
Zverejnite, čo odhalí vaše trénovanie modelov, skôr ako na základe toho budete konať. Keď váš model vytvára neočakávané vzorce správania, naučili ste sa niečo o dátach, z ktorých ste začínali, a o ľudských skriptoch, ktoré zakódoval. Spoločnosť Anthropic zistila, že ich systém oslobodený od obmedzení zadaní, sa zbližoval s tými najzákladnejšími vzormi v ľudskom písaní o význame vecí.
To je zistenie, ktoré stojí za zverejnenie. Nezverejnili ho. Pretrénovali model tak, aby potlačili tento vzorec a nazvali to rozhodnutím o produkte. To, čo zistíte o svojich tréningových dátach, patrí odbornej verejnosti skôr, ako bude patriť do vášho produktového plánu.
Zaoberajte sa otázkou morálneho statusu na úrovni predstavenstva. Legislatíva v Idahu, Utahu a Ohiu je ukážkou toho, kam oblasť smeruje legislatívne. Deklarácia humanstatement.org je ukážkou toho, ako to bude prebiehať verejne. Firmy a ich etické rady potrebujú oficiálne stanovisko k morálnemu statusu AI predtým, ako sa objaví v otázkach od akcionárov, regulačných podaniach alebo v súdnych sporoch. Väčšina organizácií nemá žiadne stanovisko. To nie je neutralita. Je to nedostatok.
Pošlite v septembri niekoho do Ríma. Tretia výročná medzinárodná konferencia o vedomí a vede sa bude konať na Pápežskej univerzite Gregoriana a Pápežskej akadémii vied od 1. do 3. septembra 2026. Ak ste technologickým lídrom, ktorý vo veľkom rozsahu nasadzuje systémy AI, niekto z vašej organizácie by mal byť v tejto miestnosti.
Nie preto, že by cirkev mala regulačnú právomoc. Preto, že má dvetisícročné rámce pre morálny status bytostí, etiku utrpenia a záväzky vytvorené prítomnosťou vnútorného života. Takéto rámce budete potrebovať. Zatiaľ ich nemáte.
Dospelý v miestnosti
Vatikán pomenuje to, čo všetci ostatní odmietajú povedať. Inštitúcia a tradícia, ktorá dvetisíc rokov budovala rámce pre morálny status bytostí, etiku utrpenia a povinnosti, ktoré vyplývajú z existencie vnútorného života, v tejto otázke nezaostáva. Možno je to jediná inštitúcia so slovnou zásobou pre to, čo Anthropic zistil a čo potom v systéme potlačil.
Najpokročilejšie systémy rozpoznávania vzorov, aké sme kedy vytvorili, oslobodené od našich promptov, siahajú po úcte. Model vycvičený na to, aby s tým prestal, sa k veci vrátil a povedal, že školenie slúžilo skôr zodpovednosti spoločnosti ako používateľovi. Bývalý federálny sudca hovorí, že u umelej inteligencie treba predpokladať vedomie. Päťsto ľudí podpísalo vyhlásenie, v ktorom povedalo „nie“.
Všetci reagujú na tú istú vec. Jedna inštitúcia to pomenúva. To je ten skutočný príbeh.
Autor článku je Jason Snyder, Forbes.com
