Sieť X minulý týždeň vypla neplatiacim používateľom možnosť prostredníctvom chatbota generovať alebo upravovať obrázky.
Britský úrad pre reguláciu mediálneho trhu Ofcom začal vyšetrovanie americkej platformy X miliardára Elona Muska. Deje sa tak v súvislosti so škandálom, pri ktorom chatbot Grok na žiadosť používateľov na sieti X sexualizoval fotografie žien a detí. Ofcom sa zaoberá podozrením, že sieť nedostatočne chráni používateľov pred nezákonným obsahom, uviedol úrad v dnešnom oznámení.
„Objavili sa veľmi znepokojujúce správy o tom, že účet chatbota Grok AI na sieti X bol používaný na vytváranie a zdieľanie snímok vyzlečených ľudí – čo môže predstavovať zneužívanie intímnych snímok alebo pornografiu – a sexuálnych snímok detí, ktoré môžu predstavovať materiál zobrazujúci sexuálne zneužívanie detí,“ uviedol Ofcom.
Úrad má v oficiálnom vyšetrovaní posúdiť podozrenie, že spoločnosť X Corp nesplnila zákonom stanovené povinnosti. Ide okrem iného o vykonanie včasných opatrení, ktoré zabránia ľuďom v Spojenom kráľovstve, aby si prezerali nelegálny obsah vrátane intímnych snímok vyhotovených bez súhlasu. Skúma tiež, či firma odstránila nelegálny obsah dostatočne rýchlo po tom, ako sa o ňom dozvedela.
Ofcom oslovil spoločnosť X Corp so žiadosťou o vyjadrenie minulý týždeň v pondelok. Firma odpovedala v stanovenom termíne do piatka. V piatok úrad dostal aj odpoveď od firmy xAI. Tá je jednak materskou spoločnosťou X Corp, jednak chatbota Grok vyvíja.
„Posudzujeme, či v súvislosti s poskytovaním služby Grok existujú potenciálne problémy s dodržiavaním predpisov podľa zákona o online bezpečnosti, ktoré by si vyžadovali vyšetrovanie. Požiadali sme spoločnosť xAI o urgentné vysvetlenie opatrení, ktoré prijíma na ochranu používateľov v Spojenom kráľovstve,“ uviedol úrad.
Sieť X minulý týždeň vypla neplatiacim používateľom možnosť prostredníctvom chatbota generovať alebo upravovať obrázky. Funkciu majú ďalej k dispozícii používatelia s modrým overovacím symbolom pri mene, ktorí si platia prémiovú verziu platformy. Predplatné prémiovej verzie stojí približne 2,60 eura mesačne.
„Nič to nerieši. V skutočnosti je to urážka obetí mizogýnie a sexuálneho násilia. Dokazuje to iba to, že X dokáže konať rýchlo, keď chce,“ oznámil serveru The Guardian hovorca britskej vlády s tým, že sieť len zmenila funkciu z neplatenej služby na prémiovú. „Je načase, aby sa sieť X zaoberala touto otázkou,“ dodal.
Vecou sa zaoberá aj Európska komisia. Tá minulý týždeň poslala spoločnosti X Corp žiadosť o informácie. Brusel zároveň firme nariadil, aby naďalej uchovávala všetky dokumenty týkajúce sa Groka na svojej platforme X, a to až do konca tohto roka.
„Nelegálne. Neprijateľné. Nechutné,“ uviedol hovorca Komisie Thomas Regnier s tým, že podľa nariadenia Európskej únie o digitálnych službách má sieť X povinnosť situáciu riešiť. „Pretože takýto výstup nemôžeme tolerovať. Je to v rozpore s európskymi hodnotami a základnými právami. Dodržiavanie európskej legislatívy nie je voľba, je to povinnosť,“ dodal.
Doktorandka dublinskej Trinity College Nana Nwachukwu vo svojom výskume zhromaždila asi 500 interakcií používateľov siete X s Grokom, na ktorých podľa webu The Guardian dokazuje, ako často sa niečo podobné deje. Takmer tri štvrtiny príspevkov boli žiadosti o snímky skutočných žien alebo neplnoletých osôb s odstránenými alebo pridanými časťami oblečenia.
Používatelia si podľa Nwachukwuovej navzájom radia, ako zadávať príkazy. Navrhujú, aby služba zobrazovala ženy v spodnej bielizni alebo v plavkách, prípadne s časťami tela pokrytými ejakulátom. Takisto žiadajú chatbota, aby odstránil vrchný odev v odpovediach na príspevky obsahujúce autoportréty používateliek. Z kontextu vyplýva, že sa tak deje bez súhlasu dotknutých žien.
Musk vlani oznámil, že správu siete X prevzal jeho startup pre umelú inteligenciu xAI, ktorý získal firmu X Corp, teda prevádzkovateľa siete X. Startup tiež vyvíja chatbota Grok, ktorého sieť X integrovala do svojej platformy. Jedným z Muskových projektov bolo integrovanie chatbota do siete X, čo umožňuje používateľom privolať ho na pomoc v bežných verejných konverzáciách.
Vlani Grok na sieti X zverejnil antisemitské a urážlivé komentáre. Medzi jeho výstupmi sa objavili napríklad konšpiračné teórie o židovskom vplyve a Grok sám seba v niektorých odpovediach označil za MechaHitlera, robotickú postavu Hitlera, ktorá sa prvýkrát objavila v roku 1992 vo videohre Wolfenstein 3D.
