Ai cybersecurity: come affrontare le sfide emergenti

Gli effetti dell’avanzata dell’intelligenza artificiale sono estesi e pervasivi in tutti i campi della sicurezza: niente di nuovo sotto il sole, è semplicemente l’ennesima incarnazione della corsa tecnologica fra attaccanti e difensori.

La differenza principale è che il connubio fra AI e cybersecurity ha come conseguenza diretta una impressionante accelerazione, soprattutto dal punto di vista delle minacce, che aumentano sia in complessità sia in quantità, in molti casi di svariati ordini di grandezza.

Capgemini, attraverso la voce di Francesco Fantazzini, Chief Technology Innovation Officer, ci aiuta a interpretare il fenomeno.

AI cybersecurity, il sentimento delle aziende

Per capire meglio lo scenario, Fantazzini ci guida all’interno di Technovision 2025, l’ultima edizione del programma pensato per supportare i decisori nella comprensione dei trend emergenti e per definire le priorità strategiche.

“Non si tratta di un semplice report: è uno strumento che parte da una analisi globale, per poi declinarsi sui trend di mercato. Un framework basato su 7 container che, in questa edizione, categorizzano 37 trend tecnologici emergenti – spiega Fantazzini – e all’interno del quale si possono trovare sia analisi di settore, sia casi d’uso”.

A livello metodologico, l’analisi si basa sull’intervista a 1000 figure apicali di aziende il cui fatturato supera il miliardo di dollari. Dall’edizione di quest’anno sono emersi 5 top trend:

• Agenti AI;
• AI in cybersecurity;
• AI-driven robotics;
• Ai driving nuclear resurgence
• New-generation supply chains

Per quanto riguarda la sicurezza in particolare, ci sono almeno tre dati che meritano di essere sottolineati: il 92% delle aziende intervistate nel 2024 affermano di aver subito una violazione nel 2023, un aumento significativo rispetto al 51% del 2021; 3 aziende su 5 ritengono che l’Intelligenza Artificiale sia fondamentale per rilevare e contrastare gli attacchi. Infine, il 57% delle aziende ritiene che l’AI generativa migliorerà l’analisi della cybersecurity e oltre la metà (53%) crede che permetterà ai team di sicurezza di espandere le operazioni e affrontare minacce più sofisticate.

Fantazzini spiega così i risultati di questa ricerca: “Volendo dare un filo conduttore a quanto emerso dal Technovision 2025, abbiamo scelto di riassumerlo in due concetti: AI-Powered everything e Convergence impact, impatto interdisciplinare”.

Oltre alla presenza sempre più pervasiva dell’intelligenza artificiale, risulta evidente come per gestire la tecnologia sia sempre più importante la trasversalità delle competenze.

L’AI come potente strumento di cyberdefense

L’AI nella cybersecurity è, insomma, fra i cinque principali trend tecnologici per il 2025. Ma è osservando più in profondità che le cose si fanno davvero interessanti.

“Possiamo vedere l’AI come rischio e, contemporaneamente, come opportunità, in modo quasi equivalente – spiega Fantazzini – Capgemini, che ha implementato l’IA nel proprio SOC, ha avuto diversi interessanti vantaggi”.

Fra questi spiccano il migliore rilevamento delle minacce, la possibilità di evitare i falsi positivi e la riduzione delle frodi. Oltre naturalmente all’automazione dei processi di sicurezza e la conseguente riduzione del carico di lavoro per l’uomo che è uno dei cavalli di battaglia dell’intelligenza artificiale.

Anche dal punto di vista del red team, l’AI nella cybersecurity ha molto da offrire. Fantazzini ricorda come possa essere utilizzata per effettuare analisi comportamentali avanzate e simulazioni di elevata complessità, impossibili con gli strumenti tradizionali.

Dal punto di vista dei rischi, meritano di essere sottolineati gli attacchi di ingegneria sociale avanzata, i deepfake sempre più credibili, la possibilità di realizzare malware maggiormente potenziati e, naturalmente, l’automazione degli attacchi.

Gli investitori stanno facendo grandi investimenti sulla sicurezza: le startup di sicurezza hanno raccolto 2,7 miliardi di dollari in 154 deals. Il 78% degli intervistati considera l’AI nella cybersecurity fra i 3 trend principali.

“Dalla nostra ricerca emerge in ogni caso un dato che va sottolineato: alcuni settori hanno ancora una bassa sensibilità, nonostante i rischi a cui sono esposti – spiega ancora Fantazzini – Per esempio manifattura e automotive, nonostante l’esposizione dei sistemi OT sia un problema noto, presentano una minore attenzione. Dal nostro punto di vista è un problema serio: il nostro consiglio nei confronti delle aziende di questi settori è di essere precursori di un approccio più avanzato e consapevole alla sicurezza”

L’avanzata dei cyber attacchi potenziati dall’AI

Come abbiamo accennato, è soprattutto l’uso offensivo dell’Intelligenza Artificiale a preoccupare gli esperti di sicurezza. Senza dubbio best practices come l’adozione estensiva dell’approccio Zero Trust, anche a livello di architettura, è un buon inizio, ma oggi non è più sufficiente.

Capgemini ha sviluppato un approccio completo alla sicurezza mediante strumenti di AI e Gen AI, che include la gestione dei rischi, la protezione dei dati e la privacy, e l’integrazione di misure di sicurezza robuste nel ciclo di vita dell’AI. “Per affrontare le nuove sfide – racconta Fantazzini – utilizziamo il Gen AI Risk Reference Architecture come acceleratore per la gestione dei rischi dell’AI e anticipiamo il panorama della conformità”.

Inoltre, Capgemini offre servizi di cybersecurity avanzati, come la protezione degli asset IT, la classificazione e protezione dei dati, e l’implementazione di politiche di sicurezza complesse e proattive.

“Collaboriamo con i clienti per sviluppare e implementare soluzioni di sicurezza personalizzate, che includono esercizi di red-team contro LLM e stack di applicazioni Gen AI” spiega ancora Fantazzini.

E se gli attacchi potenziati dall’AI avanzano, fortunatamente le aziende non stanno a guardare: sempre secondo l’analisi di Capgemini, nel 2025 il 75% delle aziende muoverà almeno qualche passo con l’AI nella sicurezza.

“Nel dettaglio, il 24% farà ricerca, il 49% test e casi d’uso limitati; il 24% la applicherà parzialmente dopo la fase di test. Solo il 3% l’avrà adottata completamente, ma è un dato che dipende anche dal campione: trattandosi di aziende di grandi dimensioni, l’adozione completa è complessa” illustra Fantazzini.

L’approccio differenziante di Capgemini alla cybersecurity con l’AI

L’integrazione dell’AI nella cybersecurity richiede una strategia solida, continua e una visione a lungo termine. Capgemini adotta un approccio strutturato che combina innovazione tecnologica, governance avanzata e partnership strategiche.

“L’obiettivo è duplice – spiega Fantazzini – da un lato migliorare la capacità di rilevare, contenere e rispondere alle minacce emergenti, dall’altro garantire che le soluzioni adottate rispettino criteri di responsabilità, trasparenza ed etica”

Il primo elemento distintivo riguarda l’impiego concreto dell’AI all’interno dei SOC, dove gli strumenti basati su AI e GenAI sono già attivi per automatizzare processi di rilevamento, gestione delle vulnerabilità e risposta agli incidenti.

Questa integrazione ha permesso di aumentare l’efficacia operativa, ridurre il rumore di fondo generato dai falsi positivi e supportare i team nella gestione dei carichi più elevati, liberando risorse per attività di analisi strategica.

Capgemini ha inoltre sviluppato un’architettura di riferimento per la gestione del rischio associato all’Intelligenza Artificiale, il già citato Gen AI Risk Reference Architecture.

Si tratta di un framework pensato per accelerare l’adozione di tecnologie AI, a cui si affianca un’infrastruttura di governance specifica per la crittografia avanzata e la protezione contro le minacce quantistiche, che include meccanismi di audit, certificazione e validazione delle contromisure post-quantum.

Sul fronte delle collaborazioni, Capgemini investe attivamente in alleanze con vendor tecnologici e partner strategici, selezionati per la loro capacità di contribuire a migliorare le performance dei SOC e l’affidabilità complessiva dei servizi di cybersecurity.

Fantazzini spiega: “Il nostro progetto è creare un ecosistema tecnologico in grado di adattarsi alle nuove forme di attacco, dalle offensive basate su modelli generativi alle tecniche avanzate di adversarial machine learning.”

Infine, Capgemini conosce l’importanza, e i rischi, legati al fattore umano. “Nonostante l’esistenza di piattaforme formative, la cultura della sicurezza risulta ancora migliorabile in numerose aziende – racconta Fantazzini – i team sono spesso esposti a rischi elevati a causa di una scarsa sensibilizzazione interna”.

Per questo si promuovono programmi di formazione continua e simulazioni avanzate, con l’obiettivo di rafforzare la resilienza complessiva del perimetro umano. In particolare, vengono condotti esercizi di red teaming su modelli LLM e applicazioni GenAI, per identificare vulnerabilità operative e cognitive prima che possano essere sfruttate da attori ostili.

Le sfide dell’utilizzo dell’AI nella cybersecurity

L’integrazione dell’AI nella Cybersecurity non è tuttavia esente da sfide, in particolare nei contesti caratterizzati da infrastrutture legacy, dove i costi di implementazione possono essere elevati e la carenza di competenze specialistiche è cronica.

“A questi limiti si aggiungono le criticità legate alla gestione dei dati utilizzati per l’addestramento dei modelli, con implicazioni dirette su privacy, sicurezza e conformità normativa” conclude Fantazzini.

Sul piano tecnico, come abbiamo visto, ci sono rischi legati alla natura dual-use dell’AI: le stesse tecnologie possono essere sfruttate per eludere i sistemi di difesa, tramite tecniche di adversarial machine learning o manipolazione degli output.

Infine, la presenza di bias algoritmici può compromettere l’affidabilità delle analisi, per le quali sono indispensabili verifiche continue e audit strutturati.

AI e cybersecurity: tra pionierismo, best practices e uno scenario in continua evoluzione

AI e cybersecurity sono destinate ad avere un legame sempre più stretto. L’AI, con la sua natura di moltiplicatore di capacità, può essere usata con uguale efficacia per l’offesa e la difesa.

Uno scenario che richiede visione strategica, disciplina operativa e una solida infrastruttura tecnologica.

Le aziende attive in questo ambito stanno di fatto contribuendo a definire nuove best practices, e a crearsi un vantaggio competitivo che, nel caso di Capgemini, viene traferito alle aziende partner, basato su velocità di risposta, accuratezza analitica ed efficienza operativa.

L’attività di aziende come Capgemini dimostrano che l’innovazione tecnologica può essere guidata da principi di trasparenza, governance e responsabilità.

Solo unendo capacità tecnica, consapevolezza organizzativa e cultura della sicurezza è possibile affrontare la crescente complessità del panorama delle minacce.

Il futuro della cybersecurity non è soltanto una questione di strumenti più intelligenti, ma di organizzazioni più consapevoli e preparate a evolversi con rapidità.

Articolo realizzato in collaborazione con Capgemini.