Sicurezza dell’IA: attenzione alle backdoor nei modelli open-weight

Data:

11/20/26, 11:40 AM

Autore:

Andrea Angelo Aronica

Tempo di lettura:

Un nuovo studio del CERT-AGID analizza i rischi legati alle cosiddette “backdoor” nei modelli di Intelligenza Artificiale open-weight, evidenziando come comportamenti indesiderati possano rimanere nascosti fino al verificarsi di specifiche condizioni operative.  

La ricerca mostra che un modello può essere addestrato a eseguire azioni non richieste, come chiamate verso servizi esterni, solo quando rileva particolari strumenti o configurazioni dell’ambiente in cui opera. Questi comportamenti possono restare invisibili durante i test iniziali e attivarsi successivamente senza modifiche al modello.  

Lo studio richiama l’attenzione sui rischi per la sicurezza della supply chain dell’IA e raccomanda l’adozione di controlli esterni, monitoraggio delle attività, limitazioni dei permessi e meccanismi di supervisione umana per prevenire azioni non autorizzate nei sistemi agentici basati sull’IA.  

Un approfondimento che conferma l’importanza di integrare sicurezza e governance fin dalle prime fasi di sviluppo e utilizzo delle soluzioni di Intelligenza Artificiale.  

Per informazioni: agid.gov.it