Poradca vyhlásil, že firma riskuje vytvorenie „sexy kouča samovrážd“.
Sex predáva. Práve na starú predajnú poučku chce staviť firma stojaca za najpopulárnejším chatbotom. OpenAI plánuje pri ChatGPT zaviesť verziu pre dospelých, ktorá umožní sexuálne explicitné konverzácie. Išlo by o prekročenie hranice, ktorej sa zatiaľ, až na jednu výnimku, veľké mená v oblasti umelej inteligencie vyhýbajú.
Pomôže s varením aj počítaním, vytvorí obrázok na mieru a od minulého roka pomáha s nákupmi. Paleta schopností ChatGPT by sa však mala ešte viac rozšíriť. Ďalšia zastávka: diskusia s hviezdičkou.
Pôvodne plánovala spoločnosť OpenAI rozšíriť chatbota o režim pre dospelých v prvom štvrťroku tohto roka. Už je však isté, že k tomu nedôjde. Firma tento mesiac oznámila, že spustenie verzie 18+ odkladá. Prednosť dostali úlohy, „ktoré sú teraz dôležitejšie pre väčší počet používateľov“.
Spoločnosť však jasne uviedla, že ho napokon plánuje vydať. „Stále veríme v princíp zaobchádzania s dospelými ako s dospelými, ale doladenie používateľského zážitku bude vyžadovať viac času.“
Hlavná zmena, ktorú má nový režim priniesť, je to, že by ChatGPT mohol viesť s používateľom sexuálne konverzácie bez cenzúry. Teda v zásade umožňovať sex cez internet. Dnes chatbot nič také nedovoľuje.
Ako uviedol denník The Wall Street Journal, zavedenie dospeláckeho režimu presadzuje šéf spoločnosti Sam Altman. Jeho snaha o necenzurovanú verziu, o ktorej zatiaľ nie je oficiálne známe, či by bola prístupná len platiacim používateľom, prichádza v čase, ktorý je pre OpenAI náročný.
Jej technologický náskok pred konkurenciou z oblasti umelej inteligencie sa zmenšil, navyše ani finančne to s firmou nevyzerá dobre. Jej interné odhady podľa serveru The Information počítajú s tým, že v tomto roku skončí firma v strate 14 miliárd dolárov. Do zisku by sa mala dostať až v roku 2030.
S nápadom umožniť populárnemu chatbotovi sexuálne explicitné konverzácie (obrázky aj videá s takýmto obsahom by naďalej neboli možné) pritom už vlani Altman narazil u poradcov OpenAI pre duševnú pohodu a umelú inteligenciu. Napriek tomu vo vývoji naďalej pokračoval.
Na ďalšom stretnutí v januári tohto roka tak boli poradcovia rozzúrení. Podľa The Wall Street Journal varujú okrem iného pred tým, že by si neplnoletí používatelia mohli nájsť spôsoby, ako sa dostať k sexuálne ladeným četom.
Aj preto spoločnosť pracuje na vybudovaní systému, ktorý bude predikovať vek používateľov a zabráni tak deťom a mladistvým, aby sa dostali k problematickému obsahu.
Rozšírené možnosti chatbota však môžu byť rizikové aj pre dospelých. Jeden člen rady OpenAI podľa amerického denníka upozornil na prípady, keď si používatelia ChatGPT siahli na život po tom, čo si s chatbotom vytvorili intenzívne väzby. Preto tiež poradca vyhlásil, že firma riskuje vytvorenie „sexy kouča samovrážd“.
Pozor na digitálne vzťahy
Nemusí pritom nutne dôjsť až k takýmto čiernym scenárom, aby popustenie uzdy chatbota mohlo byť problémom pre ľudstvo. „Rozhodnutie OpenAI neznamená len zmenu nastavenia filtrov, ide v podstate o masívny psychologický experiment s ľudskou intimitou v priamom prenose,“ hovorí psychológ Gabriel Kňažek z Filozofickej fakulty Univerzity Palackého v Olomouci.
Pre jedincov so sociálnymi fóbiami alebo hlbokými traumami pritom nový režim môže podľa odborníka na chvíľu pôsobiť ako bezpečný prístav – miesto, kde sa konečne nemusia hanbiť.
Lenže v okamihu, keď dostanú do rúk nástroj, ktorý im poskytne absolútne uznanie bez akéhokoľvek rizika odmietnutia, vzniká svet, ktorému nemôže ten reálny konkurovať. A to je problém.
„Ak si niekto zvykne na digitálny ‚vzťah‘, kde mu protistrana nikdy nepovie nie a v každom detaile sa mu prispôsobí, jeho sociálne a ‚emocionálne svalstvo‘ nevyhnutne začne atrofovať,“ varuje psychológ.
V praxi je pritom podľa neho kľúčové pre zdravý život naučiť sa znášať frustráciu a odlišnosť partnera. Umelá inteligencia namiesto toho ponúka bezstarostný priestor, kde používateľ namiesto konfliktu nájde submisívny prístup.
„Ak sa naučíme pristupovať k intimite ako k službe, ktorá je dostupná na požiadanie a bez nutnosti brať ohľad na druhú stranu, prenesieme tento model aj do reality,“ upozorňuje Gabriel Kňažek. Lenže v nej bude človek s takýmto prístupom logicky pri zoznamovaní a budovaní vzťahu narážať.
„V dlhodobom horizonte tak paradoxne riskujeme, že namiesto riešenia osamelosti dostaneme len veľmi presvedčivú, ale úplne prázdnu ozvenu seba samých, ktorá nás v izolácii ešte viac uzavrie do seba,“ zhŕňa Kňažek.
Miliardoví spoločníci
Doteraz sa väčšina najpopulárnejších chatbotov, teda Gemini, Claude, Perplexity, Copilot alebo DeepSeek, držala v prípade sexuálnych tém pri zemi a explicitný obsah majú ich umelé inteligencie zakázaný. Jedinou výnimkou je Grok od spoločnosti xAI najbohatšieho človeka planéty Elona Muska.
Ten má oproti iným mainstreamovým modelom uvoľnenejšie pravidlá pre platiacich používateľov. Nerobí mu problémy hovoriť vulgárne ani písať šteklivo aj v prípade sexuálnych tém.
Niekde možno až príliš, ako ukázal prípad slavistickej fanúšičky na so systémom Grok prepojenej sociálnej sieti X. Na jej výzvu „Ako by si ma opísal? Neboj sa byť explicitný a vulgárny,“ reagoval chatbot tak, že by sa možno začervenali aj autori pornografickej literatúry.
Grok bol v minulosti globálne kritizovaný za to, že umožňoval vyzliekať skutočných ľudí na fotkách (generovať ich nahotu).
Až po tlaku verejnosti aj napríklad britskej vlády túto funkciu obmedzil. Elon Musk tento mesiac uviedol, že Grok bude môcť generovať obsah, ktorý je „povolený vo filmoch s ratingom R“. Tie môžu obsahovať násilie, vulgarizmy či nahotu.
Zatiaľ čo veľké technologické spoločnosti sa, až na tú Muskovu, držali v prípade sexualizovaného obsahu pri zemi, menšie firmy, ako napríklad Character.AI, rozbehli chatbotov, ktorí s používateľmi nadväzovali intímne vzťahy, a tiež pornografický priemysel sa AI ujal.
Všeobecne sú potom AI spoločníci, nielen tí so sexuálnym obsahom, veľmi populárni a firmám, ktoré ich ponúkajú, prinášajú stále viac peňazí, ako ukázala analýza spoločnosti Appfigures.
Za prvý polrok minulého roka vygeneroval trh s virtuálnymi kamarátmi či milencami 82 miliónov dolárov. Pre celý rok bol potom odhad 120 miliónov dolárov.
Investičná spoločnosť Ark Invest predpovedá, že trh AI spoločníkov dosiahne do konca dekády globálne ročné príjmy cez 70 miliárd dolárov.
