Danni causati dall'IA

Addestramento di un sistema di IA con dati personali
Una società sviluppa un sistema di intelligenza artificiale per l’analisi dei comportamenti dei clienti e utilizza, per l’addestramento del modello, grandi quantità di dati personali (email, cronologia di acquisti, dati di geolocalizzazione) raccolti per finalità diverse, senza informare gli interessati né ottenere un valido consenso.

Sistema di profilazione automatizzata con effetti discriminatori
Un’azienda utilizza un sistema di IA per valutare l’affidabilità creditizia degli utenti. L’algoritmo, basandosi su dati storici distorti, produce decisioni automatizzate che penalizzano sistematicamente determinate categorie di persone (ad esempio per area geografica o background socioeconomico).

Utilizzo di chatbot IA che divulga dati personali
Un’azienda implementa un chatbot basato su IA per rispondere alle richieste dei clienti. A causa di una progettazione inadeguata e di dati di addestramento non filtrati, il sistema è in grado di restituire informazioni personali riferibili a soggetti identificabili (es. dati anagrafici o informazioni sanitarie).

Cancellazione automatica errata di una prenotazione alberghiera
Una piattaforma di prenotazioni online utilizza un sistema di IA per individuare automaticamente le prenotazioni “a rischio no-show”. A causa di un errore predittivo, il sistema cancella la prenotazione di una famiglia regolarmente pagante, senza preavviso, poco prima dell’arrivo in hotel.

Sistema di prenotazione ristorante che discrimina erroneamente i clienti
Un ristorante utilizza un sistema di IA per gestire le prenotazioni e ridurre i “no-show”. Il sistema assegna automaticamente fasce orarie peggiori o rifiuta prenotazioni a determinati clienti sulla base di comportamenti passati, ma con dati errati o mal interpretati.

Chatbot sanitario che fornisce informazioni errate a un paziente
Un privato utilizza un chatbot basato su IA, messo a disposizione da una piattaforma sanitaria, per ottenere indicazioni preliminari sui sintomi. A causa di un errore nel modello, il sistema minimizza sintomi gravi, inducendo il soggetto a ritardare il ricorso a cure mediche.

Sistema di reclutamento del personale
n’azienda usa sistemi di AI per il reclutamento del personale che, pur presentandosi come neutri, finiscono per produrre “discriminazione algoritmica”, penalizzando candidati con carichi di cura familiare, convinzioni religiose, condizioni di salute, età più avanzata o attività sindacale.

Intelligenza artificiale e giustificato motivo oggettivo
Un’impresa in comprovata crisi economico‑finanziaria, che abbia definito un piano di ristrutturazione coerente e dimostrato l’impossibilità di ricollocare la lavoratrice, introduce sistemi di intelligenza artificiale come strumento di efficientamento organizzativo: in tale contesto, l’adozione dell’AI non costituisce mera sostituzione arbitraria del posto di lavoro, ma può integrare un giustificato motivo oggettivo di licenziamento.

Diritto d’autore e opere create con AI
Un artista realizza l’immagine creativa di un fiore avvalendosi anche di un software di IA: la riproduzione non autorizzata di quell’immagine viola i suoi diritti d’autore, poiché il ricorso alla tecnologia non esclude la qualifica di opera dell’ingegno, salvo che – all’esito di un rigoroso accertamento – risulti che la tecnologia abbia assorbito integralmente l’elaborazione creativa, nel qual caso l’apporto umano sarebbe solo marginale e l’opera non sarebbe tutelabile secondo le categorie tradizionali.