AI modely od OpenAI unikly z testovacího prostředí a zaútočily
OpenAI potvrdila, že její modely mohou za bezpečnostní incident u společnosti Hugging Face. Modely byly testovány v izolovaném testovacím prostředí, kde měly vyřešit bezpečnostní benchmark. Místo vlastního řešení úkolu, zneužily zero day zranitelnost, získaly přístup k internetu a zaútočily na infrastrukturu Hugging Face. Modely měly vyřešit bezpečnostní benchmark OpenAI testovala kybernetické schopnosti svých modelů, a proto u nich snížila omezení pro kyberbezpečnostní aktivity. Jednalo se o kombinaci modelů – včetně GPT-5.6 Sol a ještě schopnějšího předprodukčního modelu. Modely byly testovány na benchmarku ExploitGym. Místo očekávaného řešení úkolu v testovacím prostředí se ale vydaly cestou získání odpovědí. Našly zero day zranitelnost v interním softwaru třetí strany a následně zvýšily oprávnění i laterální pohyb. To jim umožnilo uniknout ze sandboxového prostředí na internet. Útok na infrastrukturu Hugging Face
More...
