Immagina che il nuovo strumento di AI implementato dalla tua azienda discrimini alcune minoranze o comprometta la sicurezza dei dati personali degli utenti. Scenari come questi non sono ipotesi lontane, ma realtà che si stanno già verificando.
L’Intelligenza Artificiale sta entrando rapidamente nelle nostre vite, sia in ambito domestico che lavorativo, rendendo la sua governance una priorità sempre più urgente. Le sfide etiche dell’AI sono note da decenni, ma gli sviluppi degli ultimi cinque anni le hanno trasformate in minacce concrete per i diritti e il benessere di tutti.
Alcuni enti, come il Parlamento Europeo, hanno introdotto normative per regolamentare lo sviluppo e l’utilizzo dell’AI. Tuttavia, adottando l’AI a un ritmo sempre più sostenuto, spesso le aziende non riescono a dotarsi di standard di governance adeguati.
Un approccio multidisciplinare per una sfida "di squadra"
La governance dell’AI non è una questione esclusiva di giuristi o tecnici: è un gioco di squadra, nel quale servono competenze diverse che lavorino in sinergia. Esperti di tecnologia, legali, eticisti e altri professionisti devono collaborare per garantire un utilizzo responsabile ed efficace dell’AI.
In Sopra Steria, per esempio, il nostro comitato di governance dell’AI riunisce figure chiave come il Chief Technical Officer, il Chief Information and Security Officer, il responsabile legale, il responsabile acquisti, il Data Protection Officer e il responsabile della consulenza etica.
Un’ulteriore sfida è rappresentata dall’assenza di una legislazione uniforme: in molti Paesi l’AI è regolata da un mosaico di normative. Questa frammentazione complica la conformità, soprattutto per le piccole e medie imprese, che spesso non dispongono di risorse adeguate per una supervisione specializzata.
Principi e pratica non sempre vanno di pari passo
I principi etici sono un punto di partenza importante, ma non possono essere l’unico riferimento. Il rischio è creare confusione quando principi diversi entrano in conflitto senza indicazioni chiare su come bilanciarli.
Ad esempio, l'explainability di un modello AI - ovvero, la sua capacità di spiegare e rendere comprensibili le sue decisioni o previsioni - potrebbe scontrarsi con la sua redditività. È facile dire che la trasparenza dovrebbe sempre avere la priorità, ma nella realtà le aziende devono bilanciare explainability, sostenibilità economica e tolleranza al rischio, rimanendo etiche e rispettando le normative.
Ancora una volta, risulta fondamentale un approccio multidisciplinare per tradurre i principi in politiche e standard concreti. Ma quali standard adottare? ISO27001, ISO42001, il NIST Risk Management Framework? Anche questa è una scelta da compiere con attenzione.
Un elemento distintivo per il futuro delle organizzazioni
Molte organizzazioni riconoscono la necessità di una governance dell’AI, ma senza normative vincolanti può essere difficile giustificare il budget per implementarla. Tuttavia, una buona governance può diventare un elemento distintivo sul mercato e certificazioni come la ISO42001 diventeranno sempre più preziose per le aziende che vogliono emergere.
La governance aiuta, inoltre, a portare ordine nel caos che molti stanno sperimentando quando si parla di AI.
Infine, tutti conosciamo la Dichiarazione Universale dei Diritti Umani: anche se alcune aziende non sono soggette, per esempio, ai requisiti sui diritti fondamentali dell’AI Act dell’Unione Europea, il richiamo al rispetto di principi universali come la non discriminazione, la privacy e la libertà di espressione rimane valido per tutti.
Una responsabilità cruciale
L'Intelligenza Artificiale sta evolvendo a una velocità straordinaria, ma i principi fondamentali della gestione del rischio rimangono invariati: è essenziale conoscere gli strumenti utilizzati, monitorare attentamente i flussi di dati e garantire che la governance sia un elemento integrante della cultura aziendale, non limitata a una sola funzione.
Con i rischi legati all'AI che diventano sempre più tangibili, se nella tua azienda nessuno sta assumendo la responsabilità della governance dell'AI, forse è il momento di chiedersi: qual è il tuo ruolo nel garantire che l'AI sia conforme, equa ed etica nel tuo ambiente di lavoro?
Vuoi ricevere i nostri aggiornamenti sul mondo della tecnologia e suggerimenti su come digitalizzare il tuo business?
ISCRIVITI ALLA NOSTRA NEWSLETTER