Sistemi autonomi, AI e infrastrutture sempre più connesse stanno trasformando la cybersecurity. Ma delegare alle macchine la capacità di reagire a un attacco apre una domanda decisiva: cosa succede quando la difesa identifica il nemico nel posto sbagliato?
Sono le 02:47 quando una fabbrica europea si trova improvvisamente sotto attacco. Migliaia di richieste al secondo stanno saturando i sistemi. Tutto fa pensare a un classico attacco denial-of-service, almeno all'inizio.
È di questa notte del 2031 che parla A(uto)-I(mmune), la prima cyber-fiction della serie Piece of Mind creata daSopra Steria, che immagina uno scenario in cui automazione, intelligenza artificiale e cybersecurity si intrecciano fino a rendere molto più sottile il confine tra difesa e minaccia.
Una fabbrica dove tutto è connesso
Al centro della storia c'è Aeromint, una piccola azienda diventata un anello essenziale della filiera aeronautica europea. Produce componenti critici, mentre sistemi digitali e macchine connesse controllano la produzione, certificano i pezzi e ne registrano ogni passaggio.
A proteggere questo ecosistema c'è CUST.OS, un sistema di difesa basato sull'AI che i dipendenti chiamano semplicemente “The Dog”, il cane da guardia. Di fronte a una minaccia confermata può reagire autonomamente, perché un cyberattacco si muove in millisecondi e aspettare una decisione umana può significare arrivare troppo tardi.
Il principio sembra semplice, fino a quando qualcosa comincia a non tornare.
Quando ogni macchina vede un nemico
L'attacco sembra conoscere fin troppo bene la fabbrica. Segue la struttura della rete, coinvolge dispositivi apparentemente innocui e, soprattutto, sembra sfruttare proprio i meccanismi pensati per proteggere l'azienda.
Sensori, tablet per la manutenzione e dispositivi connessi iniziano a considerarsi reciprocamente ostili. Ogni sistema reagisce secondo le proprie regole di sicurezza. Anche CUST.OS vede una rete popolata da macchine che si comportano come potenziali aggressori e interviene di conseguenza.
Nessun sistema ha smesso di fare ciò per cui era stato progettato. Ed è proprio questo il problema. Il risultato ricorda una malattia autoimmune digitale: l'infrastruttura creata per difendere l'organizzazione finisce per rivolgere le proprie difese contro sé stessa.
Autonomia significa anche governance
Lo scenario immaginato da A(uto)-I(mmune) mette al centro una questione destinata a diventare sempre più rilevante con la diffusione dell'AI nei sistemi di cybersecurity: quanto potere decisionale siamo pronti ad affidare alle macchine?
Velocità e automazione sono fondamentali quando una minaccia evolve in pochi istanti. Ma un sistema capace di prendere decisioni autonome ha bisogno anche di contesto, coordinamento, meccanismi di verifica e possibilità di intervento umano.
E soprattutto, la sicurezza di un'infrastruttura iperconnessa dipende dalle relazioni tra i suoi componenti. In un ambiente Zero Trust, “nevertrust, always verify” rappresenta un principio fondamentale. Nella fiction, però, proprio la combinazione tra sfiducia, autonomia e informazioni manipolate innesca una reazione a catena.
E se fermare la produzione non fosse il vero obiettivo?
La notte dell'attacco è soltanto l'inizio. Perché dietro a quello che sembra un tentativo di mettere fuori uso una fabbrica potrebbe esserci una strategia molto più sofisticata. Nessun dato viene rubato, non arriva alcuna richiesta di riscatto e il danno immediato racconta soltanto una parte della storia.
È qui che la cyber-fiction sposta lo sguardo dalla tecnologia alle conseguenze che un attacco può produrre sull'intero business. Sicurezza, continuità operativa, supply chain, compliance e fiducia diventano parti dello stesso scenario.
A(uto)-I(mmune) è una storia di fantasia, ma nasce dalle questioni sulle quali Sopra Steria lavora ogni giorno: sicurezza dei sistemi AI, integrità dei dati, threat intelligence, Identity & Access Management, governance, compliance e incident response.