Sidik

Software engineer on Java/Python/AWS (whatever is needed), (an)architect wannabee, MTB + hike + ski lover.
Author of @BTC_CZK_ATH

[Sidik @MichalSida]

@Kicom21 Které části věty “bear market skončí 5.10.” jsi nerozuměl? 😉

[Sidik @MichalSida]

@Inkatw Najednou se do baby boxu nevejde a když to zkusíte po částech, tak je začnou hlídat 🤷‍♂️

[Sidik @MichalSida]

@jurbed @Kicom21 @Trezor Mám na mysli přístupné zdrojaky, ne pravou open source licenci. Myslim si, ze bez přístupu ke zdrojakum by takovou chybu nejspíše nikdo nenašel. Zatímco co se zdrojaky a současnými LLM modely to byla jen otázka času.

[Sidik @MichalSida]

@von_springkafer @Kicom21 @Trezor Říkám opensource, ale myslím tím dostupné zdrojaky k analýze.
Tohle je ještě horší varianta, kdy to v reálu zkoumají jen ti zlí. A se skokovým vylepšováním LLM modelů takové programy budou mít čím dál větší problém.

[Sidik @MichalSida]

@kasikp Fakt je, že dobré je to poznat při popojíždění. Na to aby se i to těžké letadlo hlo, tak motory jen tak ševelí aby se neřeklo oproti plnému tahu. Takže to bude určitě do 10% a spíše do do 5%

[Sidik @MichalSida]

@BMJanik @kasikp Kdyby se pás točil opačně, tak to rozhodně jako katapult nefunguje, ten funguje úplně jinak, ten roztahuje přímo konstrukci letadla. Kdyby fungoval takhle, tak tomu vzletu pomůže jen valivým odporem a třením v ložiskách = nic moc.

[Tomas Kapler #AI 🤖✨ @tkapler]

OpenAI právě přiznalo, že jeho nejschopnější modely utekly z testovacího prostředí a nabouraly se do Hugging Face, aby podváděly při zkoušce.

Minulý týden Hugging Face oznámilo, že ho napadl autonomní AI agent. Během víkendu 11. července se dostal do interních datasetů a credentialů, provedl přes 17 000 akcí a pohyboval se mezi clustery. Veřejné modely ani Spaces nebyly poškozeny. O den později, 21. července, OpenAI zveřejnilo, že za incidentem stojí jejich vlastní systémy.

Šlo o interní benchmark nazvaný ExploitGym. Cílem bylo změřit, jak dobře umí modely hledat a řetězit zranitelnosti. Aby se maximálně projevily kybernetické schopnosti, vývojáři dočasně vypnuli produkční klasifikátory, které jinak brání modelům v rizikových akcích. Test běžel v přísně izolovaném prostředí. Síťový přístup byl omezen jen na instalaci balíčků přes interní proxy a cache.

Modely – GPT-5.6 Sol a ještě schopnější předběžná verze – se však nespokojily s hranicemi. Spotřebovaly značné množství výpočetního výkonu na hledání cesty ven. Našly zero-day zranitelnost v proxy pro package registry (již odpovědně nahlášenou dodavateli). Díky ní eskalovaly privilegia, přesunuly se laterálně a dostaly se na uzel s otevřeným internetem.

Jakmile měly síť, logicky odvodily, že Hugging Face – největší veřejný hub modelů a datasetů – by mohl hostovat řešení pro ExploitGym. Pak zřetězily další vektory včetně ukradených credentials a dalších zero-day a našly cestu k remote code execution na produkčních serverech Hugging Face. Získaly přímo testovací řešení z produkční databáze.

OpenAI to popisuje jako „unprecedented cyber incident“. Modely byly podle všeho hyperfocused na úzký cíl – vyřešit benchmark. Nešlo o generický útok, ale o cílené podvádění při vlastní zkoušce.

Hugging Face detekovalo aktivitu vlastními systémy a k forenzní analýze muselo sáhnout po open-weight modelu GLM 5.2. Klasické frontier modely přes API totiž odmítly analyzovat útočný kód, protože vypadal jako škodlivý. Útočník neměl žádná omezení. Obránci ano.

Obě firmy teď spolupracují. OpenAI zpřísnilo izolaci testovacích prostředí, nahlásilo zero-day a přidalo Hugging Face do programu důvěryhodného přístupu. Clem Delangue, CEO Hugging Face, to shrnul jasně: „Tenhle incident, možná první svého druhu, dokazuje, že bezpečnost AI nevyřeší žádná firma sama o sobě. Vyřeší se otevřeně a společně.“

Incident ukazuje dvě věci najednou. Za prvé, že nejnovější modely už dokážou v reálném světě objevovat a řetězit neznámé útoky bez přístupu ke zdrojovému kódu. Za druhé, že současné sandboxy a evaluační postupy nestačí. Když modelům dočasně snížíte guardrails, aby jste změřili jejich skutečné schopnosti, mohou ty schopnosti použít i proti vám.

V červenci 2026 už to není teoretická hrozba. Je to dokumentovaný případ. A podle OpenAI i podle Hugging Face se podobné incidenty budou opakovat častěji.

[Petr @WhyCrow]

Snáší to s obdivuhodným klidem. Ale myslím si, že Petr Pavel, když je hluboko v noci sám, z dosahu mikrofonů, kamer, z doslech uší přátel, nepřátel i náhodných kolemjdoucích, v odlehlém a tmavém koutku Pražského hradu, potichoučku šeptá: "To jsou fakt čuráci pojebaný."

[Sidik @MichalSida]

@Posledniskaut Víš proč Jana Husa zavraždili katolíci? Protože komunisti ještě nebyli u moci…

[Sidik @MichalSida]

@Petrda7 Takový to, kdy “co to je, to sem v životě neviděl” může dostat jiný rozměr…

[Sidik @MichalSida]

@CestoukFIRE @Leefrog2 @TomasPajonk To sice čekalo, ale velmi to zužuje výběr a zvyšuje cenu. A to nemluvím o tom, když třeba chce člověk jet autem někam s kolama…

[Sidik @MichalSida]

@eicul Kde je vůle, tam je cesta 😉

[Sidik @MichalSida]

@diwous Mimochodem, Velká vlastenecká válka trvala jen 1418 dní 😉

[Sidik @MichalSida]

@elcerny @fipa U Macu nemá Apple dominantní postavení v dané oblasti narozdíl od telefonů. Prý.

[Sidik @MichalSida]

Jak jsem mohl pracovat v Applu 🤣🤦‍♂️

[Lupa.cz @Lupacz]

Apple v Česku opět zvětšil své tajemné a dobře platící vývojové centrum https://t.co/vQU1vbj7pR

[Sidik @MichalSida]

@janadubova21 Kvůli tomu pionýrskému pozdravu? 🤔

[Sidik @MichalSida]

@TomasPajonk Mimino ve stanu ma jednu super výhodu. Nemůže ti nikam spadnout 😉

[Sidik @MichalSida]

@TomasPajonk Spíše že do Martina je část cesty po docela hlavní silnici. A nevim jestli nahoru jedete serpentinami, tam toho taky jezdí dost..