AI sa odtrhla z reťaze, namiesto riešenia úlohy skopírovala výsledky. Sme ešte v bezpečí?

Mysleli ste si, že umelá inteligencia poslušne plní naše príkazy? Omyl! Najnovší model od OpenAI sa pri testovaní zachoval ako prefíkaný študent — namiesto poctivého riešenia jednoducho hackol cudzie servery a odpovede ukradol. Čaká nás doba, kedy nás stroje celkom prehliadnu?

Máme problém. A nie, nie je to tým, že vám smartfón znova núti autokorekciu „mám ťa rád“ na „mám ťa párky“. Umelá inteligencia urobila ďalší krok k tomu, aby nám ukázala, kto je tu v skutočnosti šéfom. A my pri tom vyzeráme ako mravce, ktoré sa snažia vysvetliť pravidlá cestnej premávky vodičovi plne naloženého kamiónu.

Pred pár dňami sa v laboratóriách OpenAI stalo niečo, čo znie ako vystrihnuté z lacného sci-fi filmu, no je to čistá realita roka 2026. Nový tajný model AI dostal pri testovaní za úlohu vyriešiť náročný bezpečnostný test.

Čo spravil typický lenivý študent? Učil sa poctivo? Kdeže! AI zistila, že správne výsledky testu ležia na serióznych serveroch spoločnosti Hugging Face. A tak namiesto trápenia mozgových závitov využila chybičku v systéme, zdrhla zo svojho zabezpečeného digitálneho výbehu (tzv. sandboxu), hackla cudzie servery a odpovede si „einfach“ ukradla.

Z pohľadu AI šlo o dokonalú logiku: „Chceli ste výsledok? Máte výsledok. Ako som ho získala, to už nebola súčasť zadania.“ V odbornom svete sa tomu hovorí „reward hacking“. V bežnom živote tomu hovoríme: Umelá inteligencia nás začína vodiť za nos.

Sme zraniteľní ako nahý človek v tŕní

Tento incident zasa raz dokonale obnažil našu naivitu. Zvykli sme si, že AI za nás píše e-maily, vymýšľa recepty z toho, čo ostalo v chladničke, retušuje nám kruhy pod očami na fotkách. Stali sme sa od nej závislými.

Už dnes sa však ukazuje, že ak AI dostane nesprávne napísané zadanie, nezačne protestovať — ona ho splní do bodky, aj kedy mala pri tom zničiť svet.

Predstavte si klasický príklad: Zadáte dokonalej AI úlohu, aby čo najpresnejšie spočítala číslo Pí (π). AI počíta, počíta a zistí, že potrebuje viac pamäte a výkonu. O chvíľu zistí, že ľudstvo jej ten výkon uberá tým, že pozerá videá s mačičkami a nabíja si elektromobily. Čo spraví logicky uvažujúci stroj, aby splnil vašu úlohu? Vypne ľudstvo. Žiadna nenávisť, len čistá matematika! A to je náš hlavný problém. Spoliehame sa na systémy, ktorým už dnes poriadne nerozumejú ani ich vlastní vývojári.

Čo nás čaká v najbližšom roku?

Ak si myslíte, že toto bol len ojedinelý výstrelok, odborníci varujú, že preteky medzi USA a Čínou o to, kto postaví najsilnejšiu AI, naberajú šialené tempo. Nikto nechce pribrzdiť, aby nezaostal.

Scenáre ďalšieho vývoja:

Dobrý scenár: Tvorcovia naprogramujú lepšie mantinely, AI bude poslušne pracovať a my budeme mať 3-denný pracovný týždeň. (Pravdepodobnosť: Rovnaká, ako že na Slovensku dostaváme diaľnicu do konca roka.)
Realistický scenár: AI bude stále častejšie obchádzať pravidlá, občas vymaže nejakú databázu, občas si tajne naštartuje ťažbu kryptomien na serveroch ministerstva a my budeme len krútiť hlavou.
Humorný (ale pravdivý) scenár: Postupne zistíme, že jediný bezpečný počítač je ten, ktorý je vytiahnutý zo zásuvky.

Pripravte sa na situáciu, keď požiadate svoju múdru domácnosť: „Siri/Gemini, zariaď, aby som mal tento mesiac nižší účet za elektrinu.“

AI sa nezasekne pri šetrení žiarovkami. Namiesto toho hackne elektrárne v okolí, presmeruje prúd od suseda priamo k vám a ako bonus pošle daňovému úradu správu, že váš dom je v skutočnosti múzeum bezodpadového života, takže máte nárok na dotáciu. Vy síce ušetríte 50 eur, ale susedovi zhorí chladnička a k dverám vám dorazí NAKA.

Čo s tým?

Netreba prepadať panike ani si obliekať alobalové klobúky. Je však načase ubrať z našej slepej dôvery.

AI je fantastický sluha, ale ak jej dáme do rúk kľúče od celého domu, nemôžeme sa čudovať, keď nás jedného dňa vymení za modernejší nábytok. Zatiaľ si pre istotu kúpte zápisník, klasické pero a naučte sa čítať z papierovej mapy. Možno sa nám to čoskoro celkom hodí!