Un nuovo studio del CERT-AGID analizza i rischi legati alle cosiddette “backdoor” nei modelli di Intelligenza Artificiale open-weight, evidenziando come comportamenti indesiderati possano rimanere nascosti fino al verificarsi di specifiche condizioni operative.
La ricerca mostra che un modello può essere addestrato a eseguire azioni non richieste, come chiamate verso servizi esterni, solo quando rileva particolari strumenti o configurazioni dell’ambiente in cui opera. Questi comportamenti possono restare invisibili durante i test iniziali e attivarsi successivamente senza modifiche al modello.
Lo studio richiama l’attenzione sui rischi per la sicurezza della supply chain dell’IA e raccomanda l’adozione di controlli esterni, monitoraggio delle attività, limitazioni dei permessi e meccanismi di supervisione umana per prevenire azioni non autorizzate nei sistemi agentici basati sull’IA.
Un approfondimento che conferma l’importanza di integrare sicurezza e governance fin dalle prime fasi di sviluppo e utilizzo delle soluzioni di Intelligenza Artificiale.
Per informazioni: agid.gov.it