Každý tretí dospelý Brit niekedy využíva umelú inteligenciu na emocionálnu podporu alebo sociálnu interakciu. A štyri percentá Britov sa s takouto žiadosťou obracajú na AI dokonca každý deň. Vo svojej prvej správe tohto druhu to uviedol britský vládny Inštitút pre bezpečnosť AI (AISI).
O správe AISI informoval server britskej verejnoprávnej stanice BBC.
Prieskum vychádza z testovania schopností viac ako 30 nemenovaných pokročilých AI systémov v priebehu dvoch rokov. Pokrýva oblasti kritické pre bezpečnosť vrátane kybernetických zručností či schopností v oblasti chémie a biológie.
Prieskum, ktorý AISI vykonal medzi viac ako dvetisíc dospelými v Británii, okrem iného zistil, že ľudia používajú na emocionálnu podporu alebo za účelom obyčajného rozhovoru najmä chatboty ako ChatGPT. Až po nich nasledujú hlasoví asistenti ako Alexa od Amazonu.
Výskumníci napríklad analyzovali online diskusiu v komunite vyše dvoch miliónov používateľov platformy Reddit v čase výpadku technológie AI spoločníkov. Zistili, že keď chatboty prestali fungovať, ľudia hlásili „abstinenčné príznaky“, napríklad úzkosť alebo depresiu, rovnako ako poruchy spánku či zanedbávanie povinností.
Na úrovni doktorov
Popri vplyve používania umelej inteligencie na ľudskú psychiku sa výskumníci z AISI zaoberali aj ďalšími rizikami plynúcimi z rýchlo sa rozvíjajúcich schopností tejto technológie.
Panujú značné obavy, že umelá inteligencia umožní vykonávať kybernetické útoky. Zároveň však môže byť využitá na zabezpečenie systémov pred hekermi. Schopnosť AI odhaľovať a využívať bezpečnostné medzery sa v niektorých prípadoch „každých osem mesiacov zdvojnásobila“, uvádza sa v správe. Systémy umelej inteligencie tiež začali plniť kybernetické úlohy na expertnej úrovni, ktoré by obvykle vyžadovali vyše 10 rokov skúseností.
Britskí vedci tiež zistili, že rýchlo rastie aj vplyv tejto technológie na vedu. V roku 2025 modely umelej inteligencie „dávno predbehli ľudských odborníkov na biológiu s doktorátmi, v oblasti chémie ich dokonca rýchlo dobiehajú,“ uvádzajú v správe.
Autoreplikáciu zatiaľ nezvládnu
Svet sci-fi si odjakživa predstavuje, čo by sa stalo, keby sa umelá inteligencia vymkla kontrole. Najhorší scenár, v ktorom ľudia stratia kontrolu nad pokročilými systémami umelej inteligencie, pritom podľa správy AISI berú mnohí odborníci úplne vážne už dnes. Kontrolované laboratórne testy naznačili, že modely AI čoraz viac vykazujú niektoré schopnosti potrebné na vlastnú replikáciu na internete.
AISI skúmal, či modely dokážu vykonávať jednoduché verzie úloh potrebných v raných fázach autoreplikácie – napríklad úspešne prejsť kontrolou zákazníka kvôli prístupu k finančným službám s cieľom nakúpiť výpočtovú techniku, na ktorej by fungovali ich kópie. Výskum zistil, že aby boli systémy AI schopné niečo také vykonávať v reálnom svete, museli by dokončiť niekoľko takýchto akcií za sebou bez toho, aby boli odhalené. Toho podľa výskumu v súčasnej dobe nie sú schopné.
Odborníci ďalej skúmali, či by sa modely mohli dopúšťať takzvaného „sandbaggingu“ – teda strategicky skrývať svoje skutočné schopnosti pred testermi. Testy podľa nich ukázali, že možné to je, ale neexistujú žiadne dôkazy o tom, že by k tomuto typu podvodu zo strany AI dochádzalo.
