L’ intelligenza artificiale è già diventata una componente essenziale nelle aziende, automatizzando processi, migliorando l’efficienza operativa e supportando decisioni strategiche con analisi di dati avanzate. Un utilizzo etico e sicuro dell’AI è diventato prioritario, e una nuova normativa (l’ EU AI Act) rappresenta un passo fondamentale per garantire che l’adozione crescente dell’intelligenza artificiale nelle aziende avvenga nel rispetto dei diritti fondamentali e della trasparenza.

Nel giugno 2023, l’Unione Europea ha approvato il tanto atteso EU AI Act, una delle prime normative al mondo volta a regolamentare l’intelligenza artificiale (AI). Questa normativa stabilisce un quadro giuridico dettagliato per l’uso dell’AI nei paesi membri dell’UE, mirando a garantire che l’uso di queste tecnologie sia sicuro, trasparente e conforme ai diritti fondamentali dell’UE. Per le aziende che operano nel settore tecnologico, l’EU AI Act rappresenta una svolta significativa, sia in termini di opportunità che di sfide. La normativa si integra e abbina alla normativa GDPR sulla sicurezza dei dati sensibili

Cosa prevede l’EU AI Act?

L’EU AI Act introduce un approccio basato sul rischio per la regolamentazione dell’intelligenza artificiale, classificando i sistemi di AI in quattro categorie principali:

• Rischio Inaccettabile: Questi sono sistemi che l’UE considera troppo pericolosi per essere utilizzati, come quelli che manipolano comportamenti, pensieri o decisioni di individui in modo dannoso. Questi sistemi saranno vietati.
• Rischio Elevato: Questa categoria include sistemi di AI utilizzati in contesti critici come infrastrutture essenziali, istruzione, occupazione, forze dell’ordine e gestione della giustizia. Questi sistemi dovranno rispettare requisiti rigorosi, tra cui la trasparenza, la supervisione umana e la gestione dei dati.
• Rischio Limitato: Sistemi come chatbot o assistenti virtuali rientrano in questa categoria. Anche se il rischio è considerato moderato, le aziende dovranno garantire che gli utenti siano consapevoli di interagire con un’AI.
• Rischio Minimo: Sistemi di AI che presentano un rischio trascurabile, come filtri antispam o motori di raccomandazione. Per questi, non ci sono obblighi specifici.

Quali sono gli esempi per la valutazione del rischio più alti?

• Garanzia dei diritti fondamentali (rischio inaccettabile): Mentre alcune cose ci sembrano impossibili, è meglio prevenirle. Ad esempio se un governo locale introduce un sistema di scoring sociale simile a quello cinese, che utilizza AI per valutare i cittadini sulla base del loro comportamento. L’AI Act proibirebbe un tale sistema in quanto violerebbe i diritti fondamentali, come la libertà di espressione e la privacy, impedendo l’adozione di pratiche invasive.

• Divieto di AI ad alto rischio per la sicurezza (rischio elevato) : Mettiamo che una città voglia implementare un sistema di sorveglianza basato su riconoscimento facciale. Secondo l’AI Act, tali sistemi saranno soggetti a regolamentazioni severe o addirittura vietati in contesti pubblici, per evitare un uso massiccio della sorveglianza che potrebbe violare la privacy dei cittadini.

• Regolamentazione degli algoritmi di selezione del personale (rischio elevato): Poniamo il caso che un’azienda utilizzi un sistema di intelligenza artificiale per selezionare candidati per una posizione lavorativa, questo avviene già con una certa frequenza. L’AI Act richiede che questi sistemi siano trasparenti e non discriminatori. Le aziende dovranno dimostrare che il loro AI non favorisce determinati gruppi demografici a discapito di altri, garantendo parità di trattamento per tutti i candidati.

• Protezione contro la manipolazione e la disinformazione (rischio elevato): Questo succede ogni volta che apriamo i social: Un’app di social media utilizza l’AI per personalizzare i contenuti che gli utenti vedono, favorendo la diffusione di notizie false o manipolative. Con l’AI Act, tali piattaforme saranno tenute a garantire che i loro algoritmi non promuovano attivamente contenuti dannosi, proteggendo gli utenti dalla manipolazione psicologica e dalla disinformazione (ad esempio elezioni politiche ecc).

• Valutazione e gestione dei rischi (rischio elevato): Un ospedale implementa un sistema di diagnosi medica basato su AI. L’AI Act richiede una valutazione rigorosa dei rischi associati all’uso di tale tecnologia, inclusi potenziali errori diagnostici. Questo assicura che il sistema venga usato solo se effettivamente migliora la cura del paziente senza esporlo a rischi eccessivi.

Quali sono alcuni esempi con una valutazione di rischio limitato?

• Richiesta di revisione umana (rischio limitato): Non azzeriamo l’empatia e l’umanità. Poniamo il caso che un sistema AI respinga automaticamente una richiesta di prestito bancario. Con l’AI Act, il richiedente ha il diritto di chiedere una revisione umana della decisione, garantendo che ci sia una supervisione umana nelle decisioni importanti che incidono sulla vita delle persone.

• Obblighi di trasparenza per gli utenti (rischio limitato): Tante aziende utilizzano dei chatbot AI per fornire il supporto clienti. Vi siete mai chiesti se state conversando con una persona o un app? Secondo l’AI Act, l’azienda deve informare chiaramente i clienti che stanno interagendo con un’AI e non con una persona reale, prevenendo confusione e assicurando che gli utenti siano consapevoli di come vengono gestite le loro interazioni.

• Responsabilità e sanzioni per violazioni (rischio limitato): Un’azienda sviluppa un sistema AI che causa un danno significativo a un gruppo di utenti (ad esempio, un algoritmo di investimento che perde ingenti somme di denaro). L’AI Act prevede sanzioni severe per le aziende che non rispettano le normative, rendendole responsabili dei danni causati e incentivandole a sviluppare sistemi più sicuri.

• Filtri di posta elettronica (rischio minimo): Un sistema AI che classifica automaticamente le e-mail come spam o posta indesiderata. Questo tipo di AI ha un impatto limitato sugli utenti e non richiede regolamentazioni stringenti. Tuttavia, deve comunque essere sviluppato seguendo buone pratiche per evitare false classificazioni e garantire che le e-mail importanti non vengano perse.

• Raccomandazioni di prodotti online (rischio minimo): Un sito di e-commerce utilizza un algoritmo di AI per suggerire prodotti in base agli acquisti degli utenti o alle loro preferenze di navigazione. Poiché questo tipo di AI offre solo raccomandazioni e non incide direttamente sui diritti o sulla sicurezza degli utenti, è considerato a rischio minimo. Tuttavia, dovrebbe comunque essere trasparente su come vengono generati i suggerimenti per mantenere la fiducia degli utenti.

Questi sono solo alcuni esempi che coprono i diversi gradi di rischio, ovviamente i sistemi di “Rischio Elevato” richiedono le maggiori attenzioni e regolamentazioni, mentre quelli di “Rischio Limitato” necessitano soprattutto di trasparenza e supervisione umana, ma con meno restrizioni rispetto ai primi.

Quali sono le implicazioni per le aziende?

Le aziende che sviluppano, implementano o utilizzano sistemi di AI all’interno dell’UE devono considerare attentamente il proprio livello di conformità con l’EU AI Act. Le implicazioni sono diverse a seconda della categoria di rischio in cui rientra il sistema di AI utilizzato:

• Valutazione del Rischio: Le aziende devono prima identificare in quale categoria rientrano i loro sistemi di AI. Per i sistemi a rischio elevato, sarà necessario eseguire una valutazione approfondita del rischio, compreso il rispetto di norme rigorose su trasparenza, spiegabilità e robustezza.
• Documentazione e Trasparenza: Le aziende devono mantenere una documentazione dettagliata sui loro sistemi di AI, descrivendo come vengono sviluppati, addestrati e utilizzati. Inoltre, è essenziale garantire che i sistemi siano trasparenti per gli utenti, specialmente per quelli in categorie a rischio elevato.
• Supervisione Umana: Per i sistemi di AI ad alto rischio, è necessario assicurare che ci sia una supervisione umana adeguata per prevenire errori e decisioni dannose.

Ecco gli strumenti per la conformità con l’EU AI Act

Per garantire la conformità con l’EU AI Act, le aziende possono adottare diversi strumenti e strategie:

• Auditing e Monitoraggio: Implementare soluzioni di auditing continuo che monitorano le prestazioni e i rischi associati ai sistemi di AI.
• Valutazione del Conformità: Utilizzare strumenti di valutazione del conformità specifici per AI, come framework di risk management e compliance checklists.
• Gestione dei Dati: Adottare piattaforme di gestione dei dati che rispettino i principi di qualità, trasparenza e privacy previsti dalla normativa.

Il ruolo di Anylink Group nel supportare le aziende

Come system integrator, il nostro ruolo è cruciale nell’aiutare le aziende a navigare nel complesso panorama dell’EU AI Act. Ecco come possiamo contribuire:

• Consulenza Strategica: Forniamo consulenza strategica per aiutare le aziende a comprendere i requisiti dell’EU AI Act e a sviluppare un piano di conformità su misura.
• Implementazione Tecnologica: Aiutiamo le aziende a integrare strumenti di AI compliant con la normativa, garantendo che le soluzioni adottate siano in linea con le direttive europee.
• Formazione e Sensibilizzazione: Offriamo programmi di formazione per sensibilizzare i dipendenti sulle implicazioni dell’AI e sulle pratiche migliori per mantenere la conformità.
• Supporto Continuo: Monitoriamo l’evoluzione normativa e offriamo un supporto continuo per garantire che le aziende restino sempre conformi anche con eventuali aggiornamenti della normativa. Lo stesso impegno lo rivolgiamo anche ai servizi per la compliance della normativa NIS2 sulla Cybersecurity.

L’EU AI Act rappresenta un passo importante verso la regolamentazione dell’intelligenza artificiale, promuovendo l’innovazione responsabile e la tutela dei diritti fondamentali. Per le aziende, la chiave del successo risiede nella capacità di adattarsi rapidamente alle nuove normative, utilizzando strumenti appropriati e collaborando con partner esperti come Anylink Group. In questo modo, sarà possibile sfruttare appieno le opportunità offerte dall’AI, riducendo al minimo i rischi e garantendo la conformità normativa.