L’adozione dell’AI nelle imprese procede più rapidamente della capacità di molte organizzazioni di dotarsi di adeguati presidi di governance, sicurezza e risposta agli incidenti. È l’avvertimento contenuto nel report Building Resilient AI, pubblicato da AXA XL con la società di consulenza cyber S-RM, secondo cui il rischio AI deve essere trattato come una questione di resilienza aziendale complessiva e non soltanto come tema tecnologico o di compliance.

La diffusione dell’AI nei processi operativi, nei flussi di dati sensibili e nei sistemi decisionali automatizzati amplia le superfici di esposizione a minacce cyber, errori operativi, problemi di responsabilità e scrutinio regolamentare. Il fenomeno riguarda anche gli utilizzi non formalizzati, inclusi strumenti pubblici impiegati dai dipendenti, funzionalità AI incorporate nei software acquistati da terzi e agenti autonomi: il cosiddetto shadow AI.

Cinque priorità

AXA XL e S-RM individuano cinque aree di intervento per le aziende:

  • attribuire responsabilità chiare sull’AI a livello aziendale, mappando sia i progetti approvati sia gli impieghi meno visibili;

  • proteggere i dati sensibili e rafforzare i controlli su identità e accessi, soprattutto quando sistemi e agenti acquisiscono maggiore autonomia;

  • gestire il rischio lungo tutto il ciclo di vita dell’AI, dalla raccolta dei dati allo sviluppo del modello, fino alla messa in produzione, al monitoraggio e alla risposta agli incidenti;

  • applicare verifiche rigorose ai fornitori di modelli, piattaforme e servizi AI, considerandoli terze parti critiche;

  • predisporre scenari di perdita che possono interessare simultaneamente cyber risk, frodi, responsabilità civile e professionale, interruzione di attività e altre coperture assicurative.

Il report segnala fra le principali minacce la fuoriuscita di dati, la manipolazione dei modelli, gli attacchi di prompt injection, gli output inattendibili, l’uso non autorizzato di strumenti AI e il rischio che agenti eccessivamente autonomi agiscano oltre i poteri assegnati.

Dalla verifica iniziale al controllo operativo

Il rapporto riconosce la crescente diffusione di controlli preventivi: secondo i dati richiamati dagli autori, il 64% delle organizzazioni valuta la sicurezza degli strumenti AI prima della loro adozione, contro il 37% dell’anno precedente. La due diligence pre-implementazione, tuttavia, non è ritenuta sufficiente.

Quando i sistemi AI accedono a dati riservati, applicazioni core e processi decisionali, occorrono monitoraggio operativo costante, controlli periodici sulle autorizzazioni, test di sicurezza, gestione delle modifiche e tracciabilità delle attività. Le organizzazioni dovrebbero quindi sapere dove l’AI è utilizzata, quali dati può trattare, quali decisioni può prendere o influenzare e da quali fornitori e infrastrutture dipende.

Il modello proposto si fonda su una governance dei dati più solida, la sicurezza di modelli e applicazioni, la resilienza dell’ecosistema di fornitori, rigorosi controlli di accesso e un monitoraggio continuo. L’obiettivo è evitare che l’introduzione dell’AI amplifichi debolezze già presenti nella gestione delle identità digitali, nella protezione delle informazioni, nel controllo delle terze parti o nella preparazione agli incidenti.

Per la gestione dei rischi, l’indicazione è tradurre le vulnerabilità tecniche in scenari operativi concreti: un modello che produce indicazioni errate, un agente che esegue attività non autorizzate, dati sensibili divulgati mediante prompt o indisponibilità di un provider AI possono infatti produrre perdite trasversali, difficili da ricondurre a una sola linea di copertura.