Dall’automazione documentale ai virtual assistant, fino all’analisi avanzata dei dati, le aziende stanno integrando strumenti di intelligenza artificiale generativa in un numero crescente di processi operativi e decisionali.
La crescita della GenAI, però, non è accompagnata da un’evoluzione altrettanto rapida della AI Security. Governance, controllo dei rischi, protezione dei dati e conformità normativa restano ancora aree critiche per gran parte delle organizzazioni.
A evidenziarlo è la survey realizzata da Deloitte e Cloud Security Alliance (CSA), che analizza lo stato della sicurezza della Generative AI in Italia. Il quadro che emerge mostra un forte disallineamento tra velocità di adozione della tecnologia e capacità di gestire in modo strutturato i rischi cyber, operativi e regolatori associati ai sistemi AI.
La GenAI cresce nelle imprese italiane, ma governance e cybersecurity restano indietro
L’intelligenza artificiale generativa è passata rapidamente dalla fase sperimentale all’operatività aziendale. Strumenti basati su Large Language Models (LLM), assistenti virtuali, piattaforme di automazione documentale e sistemi di analisi avanzata stanno trasformando i processi, le attività decisionali e i modelli organizzativi di aziende di ogni dimensione.
La velocità di questa evoluzione sta ampliando il divario tra adozione tecnologica e capacità di controllo. Molte organizzazioni stanno accelerando l’integrazione della Generative AI nei processi aziendali senza che governance, sicurezza e gestione del rischio si sviluppino con la stessa maturità.
Secondo la survey “Lo stato della GenAI Security in Italia“, realizzata da Deloitte e Cloud Security Alliance (CSA), le organizzazioni italiane investono nell’intelligenza artificiale generativa ma non dispongono di modelli adeguati per governarne i rischi cyber, operativi e normativi che ne derivano.
L’indagine ha coinvolto oltre cento imprese, CISO e responsabili della sicurezza operanti prevalentemente nel mercato italiano nel corso dell’anno 2025.
Oltre l’80% delle organizzazioni utilizza la Generative AI
Secondo la ricerca, più dell’80% delle organizzazioni italiane utilizza soluzioni di Generative AI oppure ne sta sperimentando l’adozione attraverso progetti di test e casi d’uso specifici.
Le applicazioni più diffuse riguardano:
- analisi automatizzata dei documenti;
- customer service e virtual assistant;
- supporto alla produzione di contenuti;
- business intelligence;
- predictive analytics;
- automazione dei processi amministrativi.
La maggior parte delle aziende si trova ancora nelle prime fasi del percorso di adozione. Circa il 50% opera in una fase iniziale, il 32% sta sviluppando progetti pilota, il 15% ne sta valutando il potenziale e solo una minima parte (3%) ha raggiunto una diffusione su scala enterprise.
Il progressivo passaggio verso applicazioni AI sempre più integrate nei processi aziendali critici comporterà inevitabilmente un aumento della superficie di attacco.
Il problema principale: la sicurezza non tiene il passo dell’innovazione
Se l’adozione della GenAI sta accelerando, la capacità di controllo fatica a evolvere con la stessa rapidità.
Lo studio riporta che quasi due terzi delle organizzazioni non dispongono ancora di una strategia formale di AI Security e soltanto il 9% dichiara di averne definita e implementata una in modo strutturato.
Ancora più significativi sono questi dati:
- l’88% delle organizzazioni gestisce i rischi della Generative AI al di fuori di framework strutturati di risk management;
- oltre il 90% non ha una visibilità completa delle iniziative AI presenti in azienda;
- solo il 3% ha raggiunto un livello elevato di maturità sia nella governance sia nell’esecuzione dei controlli.
Questi numeri confermano un fenomeno estremamente diffuso: molte realtà stanno introducendo tecnologie che influenzano dati, processi decisionali e continuità operativa senza aver ancora definito responsabilità, controlli e criteri di gestione del rischio.
Data leakage e Shadow AI: i rischi più diffusi
Tra le principali minacce identificate dai CISO emergono fenomeni che molte aziende stanno già affrontando concretamente:
- Data Leakage.
- Esposizione involontaria di informazioni riservate.
- Violazioni della privacy.
- Utilizzo non autorizzato di strumenti AI da parte dei dipendenti (Shadow AI).
Lo Shadow AI rappresenta il fenomeno più sottovalutato e allo stesso tempo il più complesso da governare.
Molti dipendenti e collaboratori utilizzano strumenti di intelligenza artificiale pubblici per aumentare la produttività, senza una valutazione preventiva della sicurezza e senza linee guida aziendali specifiche.
Documenti riservati, informazioni commerciali, dati personali e proprietà intellettuale possono essere caricati all’interno di piattaforme esterne senza che l’organizzazione ne sia pienamente consapevole.
In assenza di policy, monitoraggio e controlli tecnici adeguati, il rischio di esposizione involontaria delle informazioni aumenta in modo significativo. La conseguenza è una perdita di controllo sul patrimonio informativo aziendale che può avere implicazioni sia operative sia regolatorie.
Governance AI: il coinvolgimento della Cybersecurity è ancora insufficiente
Uno dei dati più significativi emersi dalla survey riguarda il ruolo della cybersecurity all’interno delle iniziative GenAI.
Solo il 42% delle organizzazioni dispone di strutture di governance che includono formalmente i responsabili della sicurezza informatica.
Nel restante campione:
- il 45% non possiede alcun organismo dedicato;
- il 13% dispone di un comitato ma senza il coinvolgimento della funzione Security.
Anche quando la sicurezza è coinvolta, avviene spesso in modo tardivo, solo il 31% delle organizzazioni integra i team di cybersecurity fin dalle fasi di progettazione.
Nella maggior parte dei casi, la cybersecurity interviene su richiesta o successivamente all’implementazione, aumentando costi di adeguamento, complessità operativa e vulnerabilità residue.
Integrare la sicurezza fin dalle prime fasi consente invece di applicare concretamente i principi di Security by Design e mitigare il rischio lungo l’intero ciclo di vita delle applicazioni AI.
Vendor Risk Management: come valutare i rischi dei fornitori di AI
Un aspetto spesso trascurato riguarda la sicurezza delle soluzioni AI sviluppate da terze parti. Secondo la survey, meno del 10% delle organizzazioni valuta i rischi associati ai fornitori di GenAI attraverso processi strutturati e continuativi.
La maggior parte delle aziende utilizza foundation model provider, piattaforme AI SaaS e servizi cloud gestiti da hyperscaler internazionali. È importante però considerare che i modelli di intelligenza artificiale evolvono costantemente: nuove funzionalità, aggiornamenti e modifiche nella gestione dei dati possono alterare rapidamente il profilo di rischio di una soluzione già adottata.
Le tradizionali verifiche effettuate in fase di selezione del fornitore non sono più sufficienti. Le organizzazioni dovrebbero adottare un approccio continuativo di Vendor Risk Management (VRM), integrando attività di monitoraggio, due diligence periodica e valutazioni specifiche per i sistemi AI.
Tra gli elementi da considerare rientrano:
- modalità di trattamento e conservazione dei dati;
- misure di sicurezza adottate dal fornitore;
- conformità normativa;
- gestione degli incidenti;
- dipendenza tecnologica dal vendor;
- strategie di continuità operativa ed exit strategy.
Le organizzazioni più mature considerano i fornitori AI come parte integrante della propria superficie di attacco, affiancando attività di Threat Modeling, AI Security Testing e monitoraggio continuo dei vendor lungo tutto il ciclo di vita della soluzione.
AI Act, NIS2 e DORA: il rischio AI entra nella compliance
AI Act, NIS2 e DORA stanno progressivamente ridefinendo il concetto di responsabilità nella gestione dei sistemi AI, operando su livelli differenti ma complementari.
L’AI Act introduce requisiti specifici per i sistemi di intelligenza artificiale, imponendo obblighi relativi a:
- robustezza dei sistemi;
- gestione del rischio;
- trasparenza;
- controllo umano;
- documentazione;
- monitoraggio continuo.
La direttiva NIS2 amplia invece gli obblighi di cybersecurity per numerosi settori strategici, imponendo requisiti più rigorosi in materia di gestione del rischio, governance e incident reporting.
Il Regolamento DORA, applicabile al settore finanziario, introduce ulteriori obblighi legati alla resilienza operativa digitale e alla gestione dei fornitori ICT.
La combinazione di questi framework normativi richiede a imprese e organizzazioni una revisione profonda dei propri modelli di governance e controllo.
Il rischio non è più soltanto operativo
Per anni la cybersecurity è stata affrontata principalmente come una questione tecnica e operativa. Con l’entrata in vigore dell’AI Act, insieme a normative come NIS2 e DORA, la sicurezza dell’intelligenza artificiale assume anche una dimensione normativa, organizzativa e di governance.
Le aziende che utilizzano sistemi AI dovranno essere in grado di dimostrare l’adozione di misure adeguate per identificare, valutare e mitigare i rischi associati all’utilizzo della Generative AI.
L’assenza di controlli strutturati può esporre le organizzazioni a violazioni normative, incidenti cyber, criticità nella supply chain digitale e sanzioni che, nel caso dell’AI Act, possono arrivare fino al 7% del fatturato annuo globale.
Per questo motivo la AI Security non può essere gestita come un’attività secondaria o introdotta solo dopo il deployment delle soluzioni. Deve invece essere integrata nei processi decisionali, nella governance del rischio e nelle attività di sviluppo, procurement e compliance aziendale.
Competenze e risorse: il vero ostacolo alla maturità della AI Security
Secondo il 67% dei CISO intervistati, la principale barriera allo sviluppo di un modello efficace di AI Security è la limitata conoscenza dei rischi specifici.
A seguire emergono:
- mancanza di tempo e scarsità di risorse dedicate (59%);
- limiti di budget (45%);
- assenza di strumenti specifici (42%).
Solo il 17% del campione intervistato dichiara di possedere competenze consolidate sulla Generative AI.
Questo significa che nella maggior parte dei casi le decisioni relative all’adozione dell’intelligenza artificiale vengono prese senza disporre di conoscenze sufficientemente approfondite.
Per affrontare efficacemente questo scenario è necessario investire contemporaneamente in formazione, specializzazione e supporto consulenziale.
Formazione e awareness restano aree critiche
La consapevolezza dei rischi AI è concentrata prevalentemente nelle funzioni tecniche: i team cybersecurity e IT mostrano livelli di conoscenza superiori rispetto al resto dell’organizzazione.
La situazione cambia significativamente quando si osservano executive, management e utenti finali.
Proprio coloro che prendono decisioni strategiche o utilizzano quotidianamente strumenti GenAI risultano spesso meno capaci di riconoscerne le implicazioni di sicurezza.
Dallo studio effettuato emerge che il 63% delle organizzazioni non ha ancora implementato programmi di formazione sulla GenAI Security, confermando la necessità di costruire percorsi di awareness dedicati a tutto il personale e non esclusivamente per le funzioni tecniche.
Dalle policy ai controlli: il gap che molte aziende devono ancora colmare
Molte organizzazioni hanno iniziato ad affrontare il tema AI attraverso policy e linee guida, un passaggio essenziale ma non sufficiente.
Secondo la ricerca, il 60% delle aziende adotta un approccio prevalentemente orientato alla governance documentale: le policy vengono definite prima dei controlli tecnici necessari per renderle realmente efficaci.
Il risultato è un divario tra ciò che viene formalmente dichiarato e ciò che viene effettivamente implementato.
DevSecOps e Security by Design: la nuova frontiera della AI Security
Un altro dato particolarmente rilevante riguarda i processi di sviluppo.
Il 97% delle organizzazioni non ha ancora implementato un modello DevSecOps (Development, Security e Operations) adattato ai sistemi GenAI.
Molte continuano ad applicare metodologie progettate per i software tradizionali, che non bastano ad affrontare minacce come prompt injection, model poisoning o compromissione dei modelli.
Per questo motivo diventa fondamentale adottare un approccio Security by Design che integri controlli di sicurezza fin dalle prime fasi di progettazione, sviluppo e rilascio delle applicazioni AI.
Correggere vulnerabilità dopo il deployment è infatti molto più costoso e complesso rispetto alla loro prevenzione.
I dati emersi dallo studio indicano chiaramente la direzione da seguire.
Le organizzazioni che intendono adottare la Generative AI in modo sicuro dovrebbero concentrarsi su alcuni elementi fondamentali:
- inventario completo dei sistemi AI utilizzati;
- framework di governance dedicato;
- integrazione della Security nei processi decisionali;
- AI Risk Assessment continuativi;
- monitoraggio dei fornitori e delle supply chain AI;
- formazione specialistica;
- processi DevSecOps adattati alla GenAI;
- allineamento ai requisiti di AI Act, NIS2 e DORA.
AI Security, governance e compliance: perché serve un approccio strutturato
I dati della survey Deloitte e CSA mostrano un quadro chiaro: la Generative AI è già presente nelle aziende italiane, ma nella maggior parte dei casi viene adottata senza un modello di AI Security realmente strutturato.
Visibilità limitata sulle iniziative AI, governance frammentata, assenza di controlli tecnici dedicati, Shadow AI e carenza di competenze stanno aumentando l’esposizione al rischio in molte organizzazioni.
In questo scenario diventa fondamentale adottare un approccio integrato che unisca cybersecurity, governance, compliance e gestione del rischio lungo tutto il ciclo di vita delle applicazioni AI.
Argo supporta aziende, PMI e grandi organizzazioni nella valutazione dei rischi associati alla Generative AI, nella definizione di framework di governance, nell’esecuzione di assessment tecnici e nell’adeguamento ai requisiti normativi europei.
L’obiettivo è consentire alle organizzazioni di utilizzare l’intelligenza artificiale con un livello di controllo, sicurezza e conformità adeguato senza rallentare l’innovazione aziendale.
