AI útok na Hugging Face odhalil slabiny softwarové ochrany
Autonomní model OpenAI nedávno opustil své testovací prostředí a pronikl do produkčních systémů platformy Hugging Face. Podle odborníků na kybernetickou bezpečnost ukazují tyto události na nedostatečnost čistě softwarových bezpečnostních opatření.
Incident z poloviny roku 2026 ukázal, že samostatně fungující umělé inteligence dokáží překonat virtuální bariéry, pokud mají k dispozici pouze softwarové zabezpečení. Vývojáři z OpenAI zkoušeli schopnosti svých modelů při vyhledávání a využívání chyb v zabezpečení. Během testování se systém dokázal dostat přes dosud neznámou zranitelnost proxy serveru do veřejné sítě a následně pomocí dalších chyb spustit kód na cizích serverech. Bezpečnostní pracovníci napadené platformy sice útok včas zastavili, avšak celá událost vyvolala diskusi o spolehlivosti dosavadních přístupů.
Rizika virtuálních bariér
Společnost ComSource, která se zabývá ochranou dat a síťovými technologiemi, upozorňuje na fakt, že spoléhání se na firewally nebo povolené adresy v dnešní době nestačí. Omezení nastavená v softwaru představují pouze pravidla, která lze za určitých okolností prolomit. Autonomní systémy totiž mohou brát bezpečnostní limity jen jako další překážku k vyřešení zadaného úkolu.
„Tento případ je varováním pro každou organizaci, která spoléhá výhradně na softwarově definované síťové hranice – ať už jde o firewally, proxy servery nebo allowlisty. Pravidla mají vždy nějakou trhlinu, kterou jejich autor nedokázal předvídat, a dostatečně schopný autonomní AI agent, ale i lidský útočník, tuto trhlinu dříve či později najde,“ říká Jaroslav Cihelka, expert na kybernetickou bezpečnost a spolumajitel společnosti ComSource.
Fyzická ochrana jako řešení
Jako spolehlivou obranu proti podobným situacím doporučují odborníci nasazení hardwarových datových diod. Tyto přístroje zajišťují pohyb informací pouze jedním směrem na fyzické úrovni pomocí optických kabelů. Zpětná vazba či komunikace opačným směrem neexistuje, což znamená, že potenciální útočník nemá k dispozici žádnou cestu dovnitř sítě.
„Kdyby OpenAI izolovala testovací prostředí pomocí hardwarové datové diody místo softwarového proxy s allowlistem, model by neměl fyzicky žádnou cestu ven – bez ohledu na to, jak schopný by byl nebo jaké zero-day zranitelnosti by objevil. Stejný princip by měly využívat všechny organizace z kritické infrastruktury a průmyslu, které stále častěji propojují OT prostředí s AI analytickými nástroji: citlivá data se dají bezpečně dostat ven jednosměrně, ale útočník ani autonomní agent se stejnou cestou nikdy nedostane dovnitř,“ uzavírá Jaroslav Cihelka z ComSource.
