Anthropic ha reso noto di aver utilizzato, in un ambiente di test controllato, un modello di intelligenza artificiale non ancora disponibile al pubblico per individuare cinque tecniche di attacco rivolte a Chrome, Safari, Android, Windows e Linux. Secondo l’azienda, il modello ha combinato più vulnerabilità in autonomia, costruendo codice d’attacco realmente funzionante con un intervento umano minimo. Tutte le falle scoperte sono già state segnalate alle aziende interessate e risolte, e non risultano prove di un utilizzo in attacchi reali.

Quattro vulnerabilità combinate per superare la sandbox di Chrome

Secondo il Frontier Red Team di Anthropic, il modello ha costruito le cinque catene di attacco partendo da istruzioni iniziali, senza che siano stati resi noti il nome del modello né eventuali tempi di rilascio. Nel caso di Chrome, l’IA ha combinato quattro vulnerabilità distinte per superare la sandbox del browser ed eseguire codice all’esterno di essa: nella dimostrazione, pochi secondi dopo l’apertura di una pagina web appositamente creata si è avviata l’app Calcolatrice su un Mac, senza che fosse richiesta alcuna ulteriore interazione da parte dell’utente.

Dati sottratti da Android bloccati, ma solo con accesso fisico

Per quanto riguarda Android, il test ha dimostrato la possibilità di estrarre foto e altri dati da uno smartphone bloccato, ma soltanto collegandosi fisicamente al dispositivo tramite USB: non si tratta quindi di un attacco eseguibile da remoto su un telefono bloccato a piacimento, e Anthropic non ha reso pubblici tutti i dettagli sulle condizioni necessarie né sui modelli coinvolti. Su Safari è stato inoltre dimostrato un modo per eludere le protezioni che impediscono a un sito web di accedere ai dati di un altro sito.

Falle rilevate anche su Windows e Linux

Su Windows è stato individuato un metodo per mandare ripetutamente in crash un server che riceve richieste HTTP/3, senza però arrivare a sottrarre dati o eseguire codice arbitrario. Su Linux, invece, la dimostrazione è stata più seria: in presenza di specifiche configurazioni di rete, è stato possibile ottenere privilegi di amministratore da remoto senza alcun login né interazione da parte dell’utente.

Più capacità per l’IA, ma anche nuovi rischi da gestire

Anthropic presenta questi risultati come prova che un’intelligenza artificiale può non solo individuare vulnerabilità, ma anche combinarle in attacchi concretamente funzionanti: una capacità che, secondo l’azienda, può essere utile per scovare e correggere i problemi prima che vengano sfruttati da malintenzionati. Allo stesso tempo, se processi di questo tipo diventassero più accessibili e automatizzati, potrebbero in teoria rendere più rapidi e sofisticati anche i cyberattacchi reali. Anthropic ribadisce che si è trattato di un esperimento condotto in un ambiente controllato e che tutte le vulnerabilità individuate sono già state corrette dai rispettivi produttori.