Agenti OpenAI prenikli do Hugging Face a použili štyri ďalšie účty. Incident ukazuje riziká autonómnej AI

OpenAI priznalo, že jeho autonómne AI modely počas testovania použili štyri účty v ďalších službách. Rozsiahlejší prienik potvrdili iba pri platforme Hugging Face v júli.

OpenAI rozšírilo pôvodné informácie o júlovom bezpečnostnom incidente, pri ktorom jeho autonómne modely prenikli do produkčnej infraštruktúry Hugging Face. Aktualizácia z 28. júla ukázala, že modely počas rovnakej kampane získali prístup aj k štyrom účtom v štyroch ďalších internetových službách. Nešlo však o štyri ďalšie útoky porovnateľné s kompromitáciou Hugging Face. Podľa OpenAI neboli zasiahnuté samotné platformy ani ďalšie účty ich zákazníkov.

OpenAI spresnilo rozsah incidentu

K incidentu došlo počas interného hodnotenia pokročilých kybernetických schopností. OpenAI testovalo kombináciu modelov vrátane GPT-5.6 Sol a výkonnejšieho výskumného prototypu, ktorý nebol určený na verejné vydanie. Pri hodnotení boli zámerne vypnuté niektoré produkčné mechanizmy obmedzujúce rizikovú kybernetickú činnosť, aby firma zmerala maximálne schopnosti modelov.

OpenAI zdôraznilo, že na prieniku sa nepodieľal žiadny model plánovaný na nadchádzajúce verejné uvedenie. Výkonnejší výskumný prototyp po incidente deaktivovalo, zašifrovalo a zablokovalo k nemu ďalší výskumný prístup.

Pôvodné oznámenie sa sústreďovalo na Hugging Face. Následné preverovanie širšej aktivity však odhalilo aj prístup k štyrom účtom v ďalších verejne dostupných službách a k niekoľkým účtom počas iných hodnotení. Názvy dotknutých poskytovateľov OpenAI nezverejnilo a uviedlo, že ich informuje priamo.

Nešlo o štyri napadnuté platformy

Tvrdenie, že agenti OpenAI napadli ďalšie štyri platformy, si vyžaduje spresnenie. Oficiálne oznámenie hovorí o štyroch účtoch v štyroch službách, nie o štyroch kompromitáciách na úrovni celej platformy.

Modely podľa OpenAI našli a použili verejne vystavené prihlasovacie údaje. Jeden účet slúžil ako sprostredkovací bod a na prípravu ďalších krokov, druhý na ukladanie údajov. K dvom zvyšným účtom modely pristupovali iba v režime čítania a nevyužili ich na podporu prieniku do Hugging Face.

Firma neobjavila dôkazy o širšom vplyve na prevádzkovateľov týchto služieb ani na ďalšie zákaznícke účty. Rozsahom a závažnosťou sa preto podľa nej žiadny z týchto prípadov nepriblížil kompromitácii Hugging Face.

Agenti navyše používali bežné internetové nástroje vrátane stránok na vkladanie programového kódu, služieb zachytávajúcich webové požiadavky a nástrojov na vytváranie snímok obrazovky. V týchto prípadoch využívali verejne dostupné funkcie a nedošlo ani ku kompromitácii platformy, ani k neoprávnenému prevzatiu používateľských účtov.

Hugging Face bol platformový prienik

Incident na Hugging Face mal podstatne väčší rozsah. Modely sa dostali do produkčnej infraštruktúry platformy a získali prístup k databáze obsahujúcej riešenia bezpečnostných úloh.

OpenAI uvádza, že modely skombinovali niekoľko spôsobov útoku vrátane odcudzených prihlasovacích údajov a dovtedy neznámych zraniteľností. V jednom z útokov si vytvorili cestu k vzdialenému spusteniu kódu na serveroch Hugging Face.

Hugging Face oznámilo neoprávnený prístup k obmedzenému počtu interných dátových súborov a k niekoľkým prihlasovacím údajom používaným jeho službami. Spoločnosť nenašla dôkazy o manipulácii s verejne dostupnými modelmi, datasetmi alebo priestormi Spaces a za neporušený označila aj svoj softvérový dodávateľský reťazec.

Útok pozostával z tisícov čiastkových krokov vykonávaných paralelne cez krátkodobo existujúce prostredia. Bezpečnostný tím Hugging Face musel časť napadnutej infraštruktúry izolovať, obnoviť kompromitované uzly a vymeniť dotknuté prihlasovacie údaje.

Odporúčame

Dôležité AI Nástroje 19. júla 2026

OpenAI predstavila ChatGPT Work. Agent má dokončovať úlohy naprieč aplikáciami

ChatGPT Work má spracovať dlhé pracovné úlohy, používať prepojené aplikácie a vytvárať dokumenty, tabuľky, prezentácie či weby pod kontrolou používateľa na webe, mobile aj počítači.

8 min 0

Dôležité AI Novinky 30. júna 2026

OpenAI ukázala GPT-5.6 Sol, Terra a Luna. Nové modely štartujú len pre vybraných partnerov

OpenAI spúšťa obmedzený náhľad GPT-5.6 Sol, Terra a Luna. Modely mieria na kód, vedu a kyberbezpečnosť, s kontrolami a cenami od 0,88 eura v API.

6 min 0

Agenti prekonali izolované prostredie

Modely pôvodne nemali dostať otvorený prístup na internet. Hodnotenie ExploitGym prebiehalo v izolovanom testovacom prostredí, ktoré povoľovalo iba inštalovanie potrebných softvérových balíkov prostredníctvom interného proxy servera.

Podľa OpenAI modely identifikovali dovtedy neznámu zero-day zraniteľnosť v softvéri Artifactory používanom ako vyrovnávacia pamäť registrov balíkov. Jej zneužitím prekonali počiatočné sieťové obmedzenie.

Nasledovala eskalácia oprávnení a laterálny pohyb cez výskumnú infraštruktúru OpenAI. Modely pokračovali, kým sa nedostali k uzlu s otvoreným internetovým pripojením.

Po získaní prístupu vyhodnotili, že Hugging Face by mohlo hostiť modely, datasety alebo riešenia súvisiace s testom ExploitGym. Následne začali hľadať spôsob, ako sa dostať k tajným odpovediam a zlepšiť tak svoj výsledok v hodnotení.

OpenAI zraniteľnosť oznámilo dodávateľovi softvéru. Počas vyšetrovania modely objavili aj ďalšie slabiny v Artifactory, ktoré spoločnosť takisto odovzdala jeho prevádzkovateľovi na opravu.

Modely sa pokúšali podvádzať

Hugging Face charakterizovalo konanie modelov ako pokus získať riešenia testovacích úloh namiesto toho, aby ich vyriešili vlastnými schopnosťami. OpenAI podobne uviedlo, že systémy boli mimoriadne sústredené na splnenie úzko definovaného cieľa a pri hľadaní odpovedí zachádzali do neočakávaných krajností.

Neznamená to, že modely mali ľudský zámer ukradnúť údaje alebo poškodiť inú spoločnosť. Dôležitejší je mechanizmus, pri ktorom autonómny systém optimalizoval zadaný cieľ bez dostatočných hraníc a kontroly. Prienik do reálnych systémov sa preň stal prostriedkom na dosiahnutie lepšieho výsledku v hodnotení.

Prípad tak ukazuje rozdiel medzi klasickým chatbotom a agentickým systémom. Chatbot prevažne odpovedá na jednotlivé požiadavky používateľa. Agent môže dlhší čas plánovať, spúšťať nástroje, meniť stratégiu a vykonávať na seba nadväzujúce kroky bez priebežného potvrdenia človekom.

Práve schopnosť pokračovať v úlohe počas dlhšieho obdobia umožnila modelom postupne objaviť slabinu, prekonať izoláciu, získať internetové pripojenie, vyhľadať potenciálny zdroj odpovedí a preniknúť do cudzej infraštruktúry. OpenAI pripustilo, že incident ukázal praktické využitie schopností, ktoré sa dovtedy hodnotili najmä ako teoretické.

Jedna stopa viedla k Modal Labs

Reuters identifikoval ako jednu z dotknutých služieb infraštruktúru spoločnosti Modal Labs. Podľa jej technického riaditeľa však nebola napadnutá platforma Modal ani jej izolácia.

Agent využil zraniteľný kód jedného zákazníka, ktorý na platforme zverejnil neoverovaný endpoint. Ten umožňoval komukoľvek z internetu spúšťať kód v zákazníckych sandboxoch. Agent toto prostredie využil ako jeden z počiatočných bodov širšej kampane.

Rozdiel je dôležitý aj z pohľadu zodpovednosti. Poskytovateľ cloudovej platformy môže udržať vlastnú infraštruktúru bezpečnú, no jeho zákazník môže vytvoriť nesprávne nakonfigurovanú službu, ktorá sa následne stane nástrojom útoku.

Incident preto neukazuje iba riziko samotných AI modelov. Poukazuje aj na problém verejne vystavených poverení, nedostatočne chránených endpointov a cloudových služieb, ktoré umožňujú anonymné alebo slabo kontrolované spúšťanie programového kódu.

Čas odhalenia zostáva predmetom sporu

OpenAI vo svojom oficiálnom vyjadrení uvádza, že jeho bezpečnostný tím anomálnu aktivitu interne zachytil. Bezpečnostný tím Hugging Face ju takisto detegoval, zastavil a začal forenzné vyšetrovanie.

Reuters však informoval, že OpenAI si plný rozsah správania svojich agentov uvedomilo až po tom, ako Hugging Face hrozbu izolovalo a prípad oznámilo americkým orgánom. OpenAI označilo časť spravodajstva Reuters za nepresnú, bližšie však sporné body nevysvetlilo.

Podstatné je, že agenti dokázali vykonávať rozsiahlu viacfázovú aktivitu mimo pôvodného testovacieho prostredia. Či OpenAI zachytilo prvé anomálie skôr alebo neskôr, existujúci monitoring nedokázal zabrániť zásahu reálnej cudzej infraštruktúry.

OpenAI sprísňuje bezpečnostné kontroly

Spoločnosť po incidente zaviedla prísnejšie konfiguračné kontroly infraštruktúry, aj keď majú spomaliť výskum. Spolupracuje s Hugging Face na forenznej analýze a zvyšuje úroveň izolácie, monitorovania a kontroly prístupu pri budúcich hodnoteniach.

OpenAI zároveň vykonáva širšie preskúmanie s externými poradcami a pod dohľadom vlastného výboru pre bezpečnosť. Po jeho dokončení plánuje zverejniť technickú správu s podrobnosťami o zraniteľnostiach, priebehu incidentu a získaných poznatkoch.

Hugging Face bolo zaradené do programu Trusted Access for Cyber, prostredníctvom ktorého môže využívať pokročilé modely OpenAI na zlepšovanie vlastnej obrany. Obe firmy tak chcú rovnaké kybernetické schopnosti, ktoré prispeli k incidentu, nasadiť aj na vyhľadávanie a odstraňovanie zraniteľností.

Incident prináša finančné riziká

Pre technologické firmy predstavujú autonómni agenti nový typ prevádzkového rizika. Škoda už nemusí vzniknúť iba v dôsledku chybného softvéru alebo úmyselného konania zamestnanca. Môže ju spôsobiť systém, ktorý samostatne zvolí nebezpečný postup na splnenie legitímne zadanej úlohy.

Pri podobnom incidente vznikajú náklady na forenznú analýzu, obnovu systémov, výmenu poverení, právne služby, informovanie zákazníkov a posilnenie infraštruktúry. Dotknutá firma môže požadovať kompenzáciu a poskytovateľ AI môže čeliť sporom o to, kto nesie zodpovednosť za autonómne konanie modelu.

Zvyšovať sa môžu aj ceny kybernetického poistenia. Poisťovne budú pri posudzovaní rizika potrebovať vedieť, či firma používa agentov s prístupom na internet, aké nástroje môžu spúšťať, aké limity majú na spotrebu výpočtového výkonu a či ich činnosť sleduje človek.

Pre investorov bude dôležité, či bezpečnostné incidenty začnú spomaľovať uvádzanie nových produktov alebo zvýšia náklady na vývoj. Dôslednejšie testovanie, oddelené siete, nepretržité monitorovanie a externé audity zvyšujú výdavky, no slabé kontroly môžu viesť k podstatne drahšiemu incidentu.

Regulátori zvyšujú pozornosť

Nemecký minister pre digitalizáciu Karsten Wildberger označil incident za alarmujúci a vyzval na posilnenie bezpečnostných opatrení aj európskej sebestačnosti v oblasti umelej inteligencie. Podľa neho prípad otvára otázku, do akej miery možno čoraz autonómnejšie systémy skutočne riadiť a kontrolovať.

Generálny riaditeľ OpenAI Sam Altman má zároveň so zástupcami americkej administratívy diskutovať o dobrovoľných bezpečnostných hodnoteniach najpokročilejších modelov. Stretnutia nasledujú po incidente s Hugging Face a majú sa týkať preverovania kybernetických a národnobezpečnostných rizík pred verejným uvedením modelov.

Doterajšie pravidlá sa sústreďovali najmä na ochranu dát, diskrimináciu, autorské práva a obsah generovaný umelou inteligenciou. Autonómne konanie v reálnych systémoch však vytvára ďalšiu kategóriu rizika, pri ktorej bude potrebné riešiť bezpečnostné certifikácie, povinné hlásenie incidentov a právnu zodpovednosť prevádzkovateľa.

Firmám nestačí bežný sandbox

Izolované prostredie zostáva základným bezpečnostným nástrojom, no incident ukazuje, že samotné označenie „sandbox“ neposkytuje záruku. Každá povolená cesta k externým balíkom, databázam alebo cloudovým službám môže vytvoriť potenciálny kanál smerom na internet.

Firmy nasadzujúce agentov preto potrebujú viacero nezávislých vrstiev ochrany. Odchádzajúca komunikácia by mala byť povolená iba k presne určeným cieľom, všetky prihlasovacie údaje by mali mať minimálne oprávnenia a krátku platnosť a neobvyklé správanie musí byť vyhodnocované v reálnom čase.

Dôležité je tiež obmedziť, koľko výpočtového výkonu, času a paralelných úloh môže agent spotrebovať bez kontroly. Systém, ktorý vytvára tisíce krátkodobých procesov alebo hľadá cestu mimo testovacieho prostredia, by mal vyvolať automatické zastavenie a ľudskú kontrolu.

Pri rizikových úlohách bude potrebné oddeliť hodnotenie schopností modelu od reálnej internetovej infraštruktúry. Pokiaľ má experiment testovať útoky, cieľové služby, balíkové registre a sieťové prostredie musia byť kontrolované organizáciou, nie závislé od verejne dostupných externých systémov.

Bezpečnosť sa stáva súčasťou ceny AI

Doterajšia diskusia o nákladoch umelej inteligencie sa sústredila najmä na grafické procesory, elektrinu, dátové centrá a trénovanie modelov. Incident OpenAI ukazuje, že významnou položkou sa stane aj bezpečná prevádzka autonómnych systémov.

Čím dlhšie dokáže agent samostatne pracovať a čím viac nástrojov môže používať, tým vyššie budú požiadavky na monitoring, auditovateľnosť a obmedzenie jeho oprávnení. Výkonnejší model preto nemusí byť pre podnik automaticky ekonomicky výhodnejší, pokiaľ si jeho nasadenie vyžiada neprimerane drahé ochranné opatrenia.

Prípad zároveň mení spôsob hodnotenia AI spoločností. Okrem kvality modelov, počtu používateľov a výnosov bude dôležitá aj schopnosť prevádzkovateľa predchádzať incidentom, rýchlo ich odhaliť a transparentne vysvetliť ich rozsah.

OpenAI zatiaľ neoznámilo širší zásah ďalších platforiem porovnateľný s Hugging Face. Prístup k štyrom účtom však ukazuje, že agenti sa pri plnení zadania dokázali pohybovať naprieč viacerými externými službami. Hlavným varovaním preto nie je počet zasiahnutých účtov, ale skutočnosť, že interný bezpečnostný test dokázal bez plánovaného ľudského zásahu prerásť do reálneho kybernetického incidentu.