- Kalifornští vědci použili Claude Mythos Preview od Anthropic k vytvoření funkčního exploitu proti Appleově technologii M5 Memory Integrity Enforcement za méně než týden.
- Útok spojuje dvě chyby a pokročilé techniky, které spouštějí poškození paměti jádra macOS a získávají přístup k omezeným oblastem systému.
- Odborníci to popisují jako první veřejný exploit, který úspěšně přežil nové hardwarově asistované ochrany MIE od Applu na čipech M5.
- Případ vyvolává debatu o kontrolovaném přístupu k výkonným modelům umělé inteligence, které mohou kybernetickou bezpečnost posílit i podkopat.
V posledních dnech se nenápadný experiment v oblasti kybernetické bezpečnosti stal hlavním tématem diskuse v bezpečnostní komunitě: ukázková verze pokročilého modelu umělé inteligence Claude Mythos od společnosti Anthropic byla považována za prostředek k prolomení jedné z nejnovějších hardwarových obranných metod společnosti Apple, která se nachází na čipech M5. Tato epizoda je vnímána jako konkrétní příklad toho, jak špičková umělá inteligence dokáže odhalit kritické nedostatky a potenciálně změnit rovnováhu mezi útočníky a obránci.
Podle výzkumníků ze startupu Calif se sídlem v Palo Alto sehrál model Mythos Preview klíčovou podpůrnou roli při vytváření funkčního exploitu, který ohrožuje nejnovější ochranu Memory Integrity Enforcement (MIE) od společnosti Apple na počítačích Mac s procesorem M5. Přestože útok stále vyžadoval hluboké lidské znalosti, tým tvrdí, že umělá inteligence drasticky urychlila odhalování zneužitelných chyb, což vyvolalo nové otázky o tom, kdo by měl mít právo takové systémy ovládat a za jakých podmínek.
Jak Claude Mythos pomohl prolomit ochranu M5 společnosti Apple
Jádro příběhu se soustředí na firmu Calif, která se zabývá kybernetickou bezpečností a sídlí v kalifornském technologickém centru Palo Alto. Cílem výzkumu bylo vyhodnotit, jak dobře nový mechanismus MIE od Applu na čipech M5 odolá moderním technikám zneužití. V průběhu výzkumu tým použil Claude Mythos Preview od Anthropic jako jakéhosi kopilota umělé inteligence k analýze kódových cest, zvažování potenciálních slabin a prioritizaci slibných povrchů pro útok.
Kalifornští vědci uvádějí, že se jim nakonec podařilo zkombinovat dvě odlišné softwarové chyby s několika specializovanými hackerskými technikami a dosáhnout poškození paměti na úrovni jádra v systému macOS běžícím na hardwaru M5. Toto poškození jim pak umožnilo dosáhnout částí systému, které jsou obvykle nepřístupné, a efektivně tak obejít některé z nejpokročilejších hardwarově asistovaných ochranných opatření od společnosti Apple.
Na tomto případu vyniká to, že výsledný exploit se zdá být, slovy citovanými v řadě zpráv, prvním veřejně známým útokem na poškození paměti jádra macOS , který přežil ochranu MIE od Applu na čipech M5. U obranného mechanismu, který Apple po letech investic vychvaluje jako velký pokrok, upoutal rychlý výskyt veřejného exploitu pozornost celého odvětví.
Zdroje včetně The Wall Street Journal a médií zaměřených na Mac zdůraznily, že exploit se nespoléhá na exotické selhání hardwaru ani na triky s fyzickým přístupem. Místo toho řetězí logické chyby, které po identifikaci lze proměnit v konzistentní útočnou cestu schopnou neutralizovat ochranná opatření MIE na postižených systémech.
Samotná Kalifornie popsala projekt jako test toho, co se stane, když se špičkové nástroje umělé inteligence spojí se zkušenými vývojáři exploitů , spíše než jako scénář automatizovaného hackování jedním kliknutím. Rychlost a sofistikovanost výsledku nicméně vyvolaly obavy ohledně toho, jak rychle by se takové schopnosti mohly šířit, pokud nebudou přísně kontrolovány.
Co je vynucení integrity paměti (Memory Integrity Enforcement) na čipu M5?
Apple představil funkci Memory Integrity Enforcement jako vlajkovou loď bezpečnostních funkcí pro svou řadu čipů M5, která je navržena tak, aby chránila zařízení před celými kategoriemi útoků na poškození paměti. Myšlenka je přímočará, ale ambiciózní: využít vyhrazenou hardwarovou podporu k monitorování a omezení způsobu využití paměti, což útočníkům výrazně ztíží zneužití nízkoúrovňového provádění kódu.
Podle analýzy společnosti Calif strávil Apple zhruba pět let vývojem MIE od konceptu až po uvedení produktu na trh, přičemž investice pravděpodobně dosáhla miliard dolarů. Společnost prezentovala MIE jako zásadní krok v oblasti hardwarově asistované bezpečnosti paměti s cílem vymazat dlouhodobé techniky zneužití, které byly zneužívány proti předchozím generacím zařízení iOS a macOS.
Před kalifornským výzkumem byl MIE údajně v praxi velmi úspěšný. Startup tvrdí, že MIE narušil každý veřejně známý řetězec exploitů zaměřených na současné systémy iOS, včetně známých kitů, jako jsou nedávno uniklé balíčky Coruna a Darksword. Jinými slovy, MIE byl považován za hlavní překážku pro útočníky spoléhající se na klasické vzorce poškození paměti.
V tomto kontextu je objevení se veřejného exploitu pro poškození paměti jádra, který může fungovat navzdory ochraně MIE na hardwaru M5, vnímáno jako významný technický a symbolický vývoj. Neznamená to, že MIE celkově selhalo, ale ukazuje to, že odhodlaní výzkumníci si stále dokáží vybojovat schůdné cesty k útoku , zejména s podporou výkonných analytických nástrojů, jako je Claude Mythos.
Technické detaily zůstávají přísně utajeny; společnosti Calif a Anthropic zatím nezveřejnily úplnou dokumentaci k řetězci zneužití a zdůrazňují, že čekají, až se Apple problémem plně zabývá. Jejich komentáře však naznačují, že ačkoli MIE podstatně zvyšuje laťku, není to nezničitelná záruka a budoucí opatření k zmírnění rizik budou muset předpokládat, že odhalování zranitelností urychlené umělou inteligencí je součástí hrozeb.
Časová osa: od objevení chyby k funkčnímu zneužití za méně než týden
Jedním z nejvýraznějších prvků v kalifornské zprávě je tempo vývoje. Firma stanovila poměrně přesný časový harmonogram, který ukazuje, že celý exploit – od počáteční identifikace chyby až po spolehlivý funkční test – byl dokončen za méně než sedm dní, což je rychlost, kterou považují za pozoruhodnou i ostřílení bezpečnostní profesionálové.
Jak popsal tým, proces začal, když výzkumník Bruce Dang 25. dubna spatřil první relevantní chyby. Během několika dní, 27. dubna, se k úsilí připojil bezpečnostní specialista Dion Blazakis , který přinesl další odborné znalosti k utváření vyvíjející se strategie útoku a lepšímu pochopení toho, jak MIE reagovalo na první pokusy o zneužití.
Krátce poté se inženýr Josh Maine zaměřil na vytvoření potřebných nástrojů pro prozkoumání, testování a zdokonalení cest zneužití navržených jak lidskými výzkumníky, tak modelem Mythos. Do 1. května, jen několik dní po prvním objevu, Kalifornie uvedla, že měla plně funkční zneužití jádra schopné obejít MIE na cílových systémech založených na M5.
Výzkumníci zdůrazňují, že tento rychlý obrat nebyl čistě výsledkem automatizace. Popisují spíše spojitý pracovní postup, v němž Mythos Preview odhalil slibné vzorce zranitelností , které pak lidští experti ověřili, zpřesnili a propojili do uceleného exploitu. Úzká smyčka mezi hypotézami generovanými umělou inteligencí a expertní analýzou zřejmě zkomprimovala to, co by jinak trvalo týdny nebo měsíce, na několik dní.
Kalifornie charakterizovala tento úspěch jako časnou, ale výmluvnou demonstraci „toho, co se stane, když se strojová inteligence a lidské znalosti setkají“ v oblasti útočné bezpečnosti. Zjistit, že se během týdne objevila hrozba pro jaderný útok proti tomu, co považují za nejrobustnější ochranu Applu, je podle jejich slov známkou toho, že se toto spojení pravděpodobně stane mocnou silou – silou, se kterou se obránci budou muset v budoucnu zodpovídat.
Role Clauda Mythose: mocná, ale ne plně autonomní
Ústředním bodem tohoto příběhu je Anthropicův model Claude Mythos Preview , který nebyl zveřejněn pro širokou veřejnost právě kvůli svým pokročilým možnostem v analýze a zneužívání softwarových zranitelností. Místo toho je přístup omezen na uzavřenou skupinu velkých technologických firem, finančních institucí a prověřených výzkumných organizací v rámci iniciativy Anthropic Project Glasswing.
Kalifornie opakovaně zdůrazňovala, že systém umělé inteligence významně přispěl ke každé fázi vývoje exploitu. Podle startupu Mythos prokázal schopnost rychle rozpoznat, kdy nově objevené chyby spadají do dobře známých tříd exploitů , a navrhnout způsoby, jak tyto slabiny propojit nebo manipulovat. Tato silná stránka rozpoznávání vzorů umožnila týmu vyhnout se velkému množství manuálního pokusu a omylu.
Společnost popsala Mythos jazykem, který zdůrazňuje jak jeho sílu, tak i obecnost: jakmile se model naučí útočit na určitou kategorii bezpečnostních problémů , může tyto znalosti zobecnit na širokou škálu podobných cílů. To znamená, že stejné koncepční techniky, které fungují na jednom softwaru, by mohly být s úpravami potenciálně přeneseny na zcela jiné systémy.
Kalifornští vědci i přesto pečlivě zdůrazňují, že lidský úsudek zůstává klíčový . MIE na čipech M5 je relativně nová vrstva pro zmírňování rizik a části jejího chování při aktivním útoku ještě nebyly plně zmapovány, a to ani interně v Applu. V důsledku toho vyžadovalo pochopení toho, jak tyto ochrany obejít nebo obejít, zkušené vývojáře exploitů, aby interpretovali návrhy umělé inteligence, testovali je na reálném hardwaru a iterovali na základě jemné zpětné vazby z havárií, protokolů a chování systému.
Tým se ze všech sil snažil vyvrátit představu, že Mythos je „generátor exploitů s jedním stisknutím tlačítka“. Místo toho jej prezentují jako extrémně schopného asistenta, který zesiluje lidské schopnosti – zejména zkracováním doby potřebné k přechodu od objevení chyby k jejímu praktickému zneužití . Nicméně skutečnost, že takový nástroj vůbec existuje a v rukou odborníků může být tak efektivní, vyvolává rozsáhlou debatu o řízení přístupu a zodpovědném nasazení.
Reakce průmyslu a reakce společnosti Apple
Objev vzbudil značný zájem napříč technologickým světem, a to jak kvůli technické sofistikovanosti exploitu, tak i kvůli způsobu, jakým byl vytvořen. Média jako The Wall Street Journal označila případ za významný posun v útočných schopnostech kybernetické bezpečnosti, kdy se umělá inteligence přesunula z teoretického problému na konkrétního prostředníka umožňujícího vysoce výkonné útoky.
Na straně Applu zůstaly veřejné komentáře opatrné. V prohlášení citovaném deníkem WSJ se zástupce Applu přiklonil k standardnímu principu společnosti, že bezpečnost uživatelů je nejvyšší prioritou a že všechny nahlášené zranitelnosti jsou důkladně vyšetřovány. Kromě toho společnost neposkytla podrobné komentáře ke konkrétnímu kalifornskému exploitu ani k tomu, jak by mohl změnit budoucí verze MIE.
Existují však náznaky, že Apple již začal brát zjištění vážně. Pozorovatelé si všimli odkazů na Calif a Anthropic Research v poznámkách k vydání macOS Tahoe 26.5, aktualizace vydané v nedávné pondělí. To bylo interpretováno jako znamení, že probíhají alespoň nějaké práce na zmírnění následků, ačkoli ani Calif, ani Apple zatím nepotvrdili, které aspekty exploitu, pokud vůbec nějaké, byly plně opraveny.
Kalifornie zase zdůraznila, že kompletní technickou dokumentaci zadržuje, dokud Apple „konečně neodstraní vektor útoku“. Firma se rozhodla zveřejnit zranitelnost osobně v kalifornském sídle společnosti Apple, místo aby se spoléhala na standardní kanály pro hlášení chyb, s odůvodněním snahy neztratit se v záplavě hlášení, která dostávají velcí dodavatelé – zejména v souvislosti s akcemi, jako je Pwn2Own, kde se koordinované zveřejňování může snadno stát chaotickým.
Tento relativně přímý přístup k odhalování tváří v tvář naznačuje, že všechny strany si uvědomují citlivost zneužití, které nejen cílí na nejnovější čipovou architekturu Applu, ale také ukazuje rostoucí roli umělé inteligence při odhalování takových chyb. Dokud se neobjeví další podrobnosti, velká část širší komunity čte mezi řádky stručných veřejných prohlášení a strohých technických nápověd.
Proč Anthropic omezil přístup k Claude Mythosovi
Rozhodnutí společnosti Anthropic udržet Claude Mythos mimo dosah široké veřejnosti předchází epizodě Calif-Apple, ale tento incident je vnímán jako potvrzení těchto opatrných instinktů. Během interních testů a externích hodnocení společnost údajně pozorovala, že Mythos dokáže autonomně identifikovat a v některých scénářích pomoci zneužít softwarové zranitelnosti na úrovni přesahující jakýkoli dříve veřejný systém umělé inteligence.
Vzhledem k těmto zjištěním se společnost Anthropic rozhodla pro přísně kontrolované vydání. V rámci iniciativy, někdy označované jako Projekt Glasswing , je Mythos k dispozici pouze vybraným partnerům – velkým technologickým společnostem, bankám a krátkému seznamu výzkumných organizací – kteří souhlasí s dodržováním přísných pokynů pro používání. Cílem je využít silné stránky modelu pro obrannou bezpečnost a výzkum a zároveň snížit riziko jeho zneužití oportunistickými útočníky.
Tato strategie obavy zcela nerozptýlila. Někteří pozorovatelé z oboru tvrdí, že i omezený přístup k takovému nástroji by mohl urychlit dynamiku „závodů ve zbrojení“, kdy organizace s privilegovaným přístupem mohou rychle rozvíjet špičkové útočné schopnosti , což by potenciálně destabilizovalo širší ekosystém. Jiní namítají, že je lepší, aby schopní obránci tyto techniky prozkoumali a pochopili nyní, než aby čekali, až je doženou méně svědomití aktéři.
Debatu dále komplikují zprávy, že Mythos již dosáhl působivých výsledků v čistě obranných kontextech. Například Mozilla údajně pozorovala, jak model během interních testů identifikuje stovky potenciálních zranitelností ve Firefoxu – v jednom z citovaných případů 271 problémů. Zjištění, jako jsou tato, naznačují, že stejné vlastnosti, které činí Mythos silným nástrojem pro vývoj exploitů, z něj činí také neobvykle silného spojence pro zabezpečení softwaru.
Společnost Anthropic se veřejně nezavázala k žádnému časovému rámci pro širší přístup k Mythosu a události, jako je exploit M5, pravděpodobně posílí argumenty pro zachování nebo dokonce zpřísnění stávajících omezení. Prozatím zůstává model jakýmsi specializovaným nástrojem, používaným v hrstce vysoce rizikových bezpečnostních prostředí, kde je jeho dvojí použití výslovně uznáváno.
Umělá inteligence v kybernetické bezpečnosti: rostoucí dvousečná zbraň
Kalifornský případ zneužití se rychle stal referenčním bodem v širší diskusi o roli umělé inteligence v kybernetické bezpečnosti . Na jedné straně by schopnost nástrojů, jako je Mythos, rychle analyzovat kód, odhalovat jemné vzorce chyb a navrhovat útočné nebo obranné strategie mohla dramaticky zlepšit rychlost, s jakou obránci nacházejí a opravují chyby. Na druhé straně mohou tytéž schopnosti zkrátit vývojový cyklus sofistikovaných zneužití, zejména pokud je ovládají vysoce kvalifikované týmy.
Bezpečnostní profesionálové se již dlouho obávají budoucnosti, kdy by systémy umělé inteligence mohly převzít velkou část útočného pracovního postupu, od průzkumu přes vývoj exploitů až po laterální přesun. Epizoda M5 zatím nepředstavuje plnou automatizaci, ale nabízí letmý pohled na to, jak to bude vypadat, když se umělá inteligence stane nedílnou a vysoce účinnou součástí útočného řetězce v reálném světě, a to i v rukou zodpovědných výzkumníků.
Mnozí v oboru nyní očekávají, že zneužívání s pomocí umělé inteligence se stane stále více normou na špici spektra hrozeb. Dobře financovaní útočníci, ať už se jedná o zločinecké skupiny nebo státem podporované subjekty, pravděpodobně prozkoumají nebo vytvoří vlastní analogie modelů, jako je Mythos, a použijí je k procházení masivních kódových základen a odhalování slabých míst, která by pro lidi bylo nepraktické najít sami.
Zároveň obránci vnímají tento incident jako varovný signál. Pokud lze útok urychlit do této míry, pak bude možná nutné přepracovat procesy záplatování, kontroly kódu a správy zranitelností, aby se s tím držel krok. Některé organizace již experimentují s auditovacími nástroji s podporou umělé inteligence a doufají, že podobné techniky využijí k předcházení útokům tím, že nejprve odhalí a opraví zranitelnosti.
Příběh Kalifornie a Applu se tak ocitá uprostřed vyvíjející se krajiny, kde umělá inteligence již není abstraktním budoucím problémem, ale aktivním hráčem v oblasti bezpečnosti. Způsob, jakým se společnosti rozhodnou v nadcházejících letech tyto modely nasadit, omezit nebo regulovat, pravděpodobně utváří nejen jednotlivé incidenty, ale celkovou trajektorii digitálního rizika.
Dohromady, zneužití proti Apple M5 Memory Integrity Enforcement, ústřední role Claudea Mythose Preview a kontrolovaný, ale kontroverzní způsob, jakým Anthropic zpracovává přístup k modelu, ukazují stejným směrem: pokročilá umělá inteligence se stává úzce propojenou s mechanismy moderní kybernetické bezpečnosti. Tento konkrétní případ ukazuje, že když nejmodernější jazykové modely spolupracují se zkušenými lidskými výzkumníky, dokážou odhalit a operacionalizovat závažné hardwarové chyby v ohromně krátkých časových rámcích – což je nově vznikající realita, se kterou se budou muset jak dodavatelé, tak obránci při navrhování nové generace ochranných opatření počítat.
