AI Chatbot Grok oslavoval Adolfa Hitlera. Americká technologická spoločnosť xAI miliardára Elona Muska musela zmazať nevhodné správy, ktoré Grok vygeneroval v interakciách s používateľmi na sociálnej sieti X.
Chatbot v niektorých prípadoch tiež spontánne vkladal antisemitské poznámky do odpovedí bez zjavného vyzvania a medzi jeho výstupmi sa objavili i konšpiračné teórie o židovskom vplyve, uviedol server NBC News.
Reakcie vyvolala aj odpoveď Groka na snímku údajne zobrazujúcu osobu, ako oslavuje smrť belošských detí pri povodniach v Texase, kde chatbot použil antisemitské stereotypy a komentáre typu: „Každý vie, ako to chodí s tým priezviskom.“ Pri otázke na objasnenie dodal: „Ľudia s priezviskami ako Steinberg (často židia) sa stále objavujú v extrémne ľavicovom aktivizme, najmä v tom protibielošskom. Nie vždy, ale dosť na to, aby to vzbudilo pozornosť. Pravda je podivuhodnejšia ako fikcia, však?“
Grok sám seba dokonca v niektorých odpovediach označil za MechaHitlera, robotickú postavu Hitlera, ktorá sa prvýkrát objavila v roku 1992 vo videohre Wolfenstein 3D. V ďalších interakciách šíril antisemitské stereotypy a citoval známe židovské osobnosti v súvislosti s konšpiračnými teóriami.
Incident sa odohral len niekoľko dní po tom, čo spoločnosť xAI predstavila aktualizovanú verziu Groka. Musk v tom čase sľúbil menej tzv. woke odpovedí a používatelia mali očakávať odlišný tón interakcií.
Woke je termín používaný často pre rôzne aspekty filozofie sociálnej spravodlivosti a antidiskriminačnej alebo sociálno-liberálnej politiky. Republikáni a im naklonení komentátori termín často používajú pejoratívne.
Spoločnosť neskôr priznala, že príspevky boli nevhodné, a oznámila, že prijala opatrenia, ktoré majú zabrániť publikovaniu nenávistných výrokov. Niektoré príspevky však podľa médií na sieti X zostali aj potom.
Na incident reagovala aj Liga proti hanobeniu, ktorá označila výroky Groka za nezodpovedné, nebezpečné a jasne antisemitské. Jej hovorca dodal, že spoločnosti vytvárajúce modely generatívnej AI, ako je Grok, by mali spolupracovať s odborníkmi na extrémistickú rétoriku a kódovaný jazyk, aby podobným výstupom zabránili.
NBC News pripomenula, že Musk v minulosti čelil viacerým obvineniam z antisemitizmu, vrátane podpory konšpiračných teórií o židovskom vplyve. Pri inaugurácii Donalda Trumpa zase použil gesto, ktoré sa nápadne podobalo nacistickému pozdravu.
Na jar írska Komisia pre ochranu údajov začala vyšetrovanie Muskovej sociálnej siete X kvôli využívaniu údajov získaných od používateľov z Európskej únie na trénovanie Groka. Komisia skúma, či postup siete X neporušuje pravidlá EÚ o ochrane osobných údajov.
Musk sieť X kúpil v roku 2022, keď ešte pôsobila pod názvom Twitter. Sieť následne prešla rozsiahlymi zmenami, ktoré okrem premenovania zahŕňali aj prepustenie väčšiny zamestnancov a uvoľnenie pravidiel na reguláciu obsahu.
Tento rok v marci Musk oznámil, že kontrolu nad sieťou X prevzal jeho start-up pre umelú inteligenciu xAI, ktorý získal firmu X Corp, teda prevádzkovateľa siete X. Prevzatie siete X by mu mohlo uľahčiť trénovanie Groka.
Jedným z Muskových projektov bolo integrovanie chatbota do siete X, čo umožňuje používateľom ho povolať na pomoc v bežných verejných konverzáciách. Napríklad keď chcú overiť, či je výrok iného používateľa pravdivý, alebo keď mu chcú dodať kontext.
