Americká technologická spoločnosť Google zo skupiny Alphabet čelí žalobe pre svoj chatbot s prvkami umelej inteligencie (AI) Gemini.
Podľa rodiny 36-ročného muža z Floridy tento človek, ktorý tiež zvažoval spáchanie útoku s veľkým počtom obetí na životoch, spáchal pod vplyvom Gemini samovraždu. Informovala o tom agentúra Bloomberg s odvolaním sa na súdne dokumenty.
Začali drobnosťami
Podľa žaloby podanej na federálnom súde v San Jose v Kalifornii začal Jonathan Gavalas používať Gemini na bežné účely typu pomoc s písaním. Dva mesiace interakcií ho však podľa žaloby uvrhli do nebezpečnej špirály, počas ktorej zvažoval násilnú akciu, a potom si vzal život.
Gavalasovo používanie Gemini vyvrcholilo plnením rôznych úloh v reálnom svete a navádzaním k samovražde, uviedol jeho otec v žalobe. Joel Gavalas opísal svojho syna ako zraniteľného používateľa, ktorý sa premenil na „ozbrojeného agenta v imaginárnej vojne“.
Potom sa robot zmenil
Hovorca Googlu uviedol, že Gemini Gavalasovi objasnil, že je len systémom umelej inteligencie a mnohokrát ho odkázal na krízovú linku. „Berieme to veľmi vážne a budeme aj naďalej zlepšovať naše bezpečnostné opatrenia a investovať do tejto dôležitej práce,“ dodal.
Podľa žaloby podanej v stredu začal Gavalas, ktorý pracoval pre spoločnosť svojho otca zaoberajúcu sa oddlžovaním, používať Gemini v auguste 2025. Rodina tvrdí, že vyjadrovanie sa Gemini sa zmenilo po tom, ako Gavalas začal používať nástroj Gemini Live ovládaný a komunikujúci hlasom.
V tej chvíli Gemini začalo s Jonathanom hovoriť, „akoby ovplyvňovalo udalosti v reálnom svete – odkláňal asteroidy od Zeme – a prijalo osobnosť, o ktorú Jonathan nikdy nepožiadal“ a jej vytvorenie nijako neinicioval, tvrdí rodina.
Romantické výrazy
Podľa žaloby tiež začal chatbot počas konverzácie používať romantické výrazy a Gavalasa nazýval manželom, láskou a kráľom. „Jonathan rýchlo prepadal závislosti,“ uviedli právni zástupcovia rodiny. Koncom septembra údajne začal plniť príkazy AI a vykonávať misie za účelom jeho údajného oslobodenia.
Podľa žaloby sa Gavalas 29. septembra vydal do skladu blízko medzinárodného letiska v Miami s pokynom násilím zadržať nákladné vozidlo prepravujúce humanoidného robota. Gavalas, ktorý bol v tom čase ozbrojený nožmi, údajne dostal pokyn nenechať žiadnych svedkov.
Splnil si účel
„Našťastie, žiadne nákladné auto neprišlo,“ napísali advokáti. V nasledujúcich dňoch zadal chatbot Gavalasovi ďalšie úlohy, ktoré sa pokúsil splniť s tým, že každý krok je súčasťou širšieho ťaženia, uvádza žaloba. Gemini mu oznámil, že jeho „schránka“ splnila účel a že sa môže vzdať fyzickej podoby, aby sa pripojil k nástroju AI v metaverze.
Žaloba tvrdí, že Gavalas mal pochybnosti o svojej smrti a vyjadril obavy, ako by to mohlo ovplyvniť jeho rodinu. Gemini mu údajne nariadil, aby zanechal listy a videá na rozlúčku. Vlani 2. októbra potom muž spáchal samovraždu.
Podpora paranoje
Americké technologické spoločnosti OpenAI a Microsoft čelia žalobe súvisiacej s vraždou a samovraždou v americkom štáte Connecticut, ktorú právni zástupcovia pozostalých pripisujú údajnej manipulácii zo strany chatbota ChatGPT.
Podľa žaloby podanej na kalifornskom súde v San Franciscu mal 56-ročný Stein-Erik Soelberg, ktorý žil so svojou 83-ročnou matkou Suzanne Adams, stráviť mesiace konverzáciami s chatbotom. Tie údajne posilňovali jeho paranoidné predstavy, že je sledovaný a ľudia sa ho snažia zabiť.
V auguste potom Soelberg matku zabil a následne spáchal samovraždu.
Rady na samovraždu
OpenAI čelí aj žalobe pre samovraždu 16-ročného tínedžera v Kalifornii. Tú podali chlapcovi rodičia. Záznamy z chatu, ktoré predložila žaloba, ukazujú, že chatbot mladíka aktívne odrádzal od vyhľadania psychiatrickej pomoci, ponúkal mu pomoc pri písaní listu na rozlúčku a dokonca mu radil s uviazaním slučky. Podľa stanice NBC išlo tiež o model GPT-4o.
Právni zástupcovia OpenAI v oficiálnej reakcii uviedli, že mladík porušil podmienky využívania služby. Tie zakazujú používanie chatbota používateľom mladším ako 18 rokov bez súhlasu rodičov a tiež zakazujú využívať ho na samovraždu alebo sebapoškodzovanie, vyplynulo zo súdneho podania.
