AI Act e privacy

AI Act e privacy

Il dipendente che ha risparmiato mezz’ora. E i dati che non tornano più indietro.

 Sono le 17:42

Sono le 17:42. Un dipendente deve consegnare entro sera una sintesi al proprio responsabile. Ha davanti quaranta pagine di contratto, è stanco, ha poco tempo. Apre il browser, apre un sistema di intelligenza artificiale generativa e pensa una cosa perfettamente ragionevole:

“Lo faccio riassumere all’AI. Ci metto trenta secondi.”

Copia. Incolla. Invio.

Trenta secondi dopo ha il riassunto. Ordinato, chiaro, persino migliore di quello che avrebbe scritto lui alle sei di sera. Ha risparmiato mezz’ora e rispettato la scadenza: dal suo punto di vista ha fatto esattamente il suo mestiere.

C’è solo un dettaglio. Quel contratto conteneva nomi e recapiti di persone fisiche, condizioni economiche riservate, listini non pubblici, clausole negoziate, il perimetro di un progetto ancora coperto da riservatezza. E adesso tutto questo è uscito dall’azienda ed è stato trattato da un sistema esterno, gestito da un fornitore che nessuno, in quell’organizzazione, ha mai valutato.

Le domande che dovrebbero seguire sono tutte scomode. L’azienda sapeva che quel documento sarebbe finito in un sistema di AI? Quasi certamente no. Aveva autorizzato quel servizio? Forse no. Sapeva dove quei dati sarebbero stati trattati, da chi, per quanto tempo e con quali garanzie? Qui la risposta, nella maggior parte delle imprese, è la più preoccupante di tutte: “Non lo sappiamo.”

Non è un problema tecnologico. È un problema di governo dei dati. Ed è il motivo per cui questo articolo non parla di intelligenza artificiale, ma di privacy.

La domanda sbagliata e la domanda giusta

Quando in azienda si affronta il tema dell’AI, la domanda che arriva per prima è quasi sempre:

“Questo strumento è sicuro?” È legittima, ma è solo metà della domanda.

La sicurezza informatica risponde a un quesito preciso: il dato è protetto da accessi non autorizzati, da perdite, da alterazioni? La protezione dei dati personali risponde a un quesito più ampio: quel trattamento è lecito?

Sono due piani non sovrapponibili. Un sistema può essere tecnicamente impeccabile — cifratura robusta, certificazioni, data center inespugnabili — e il suo utilizzo essere comunque illegittimo. La liceità non dipende dalla solidità del fornitore: dipende dal fatto che l’azienda abbia una ragione giuridica valida per trattare quei dati in quel modo, che lo faccia in modo trasparente, che non ecceda ciò che serve rispetto allo scopo e che sappia dove quei dati finiscono.

La domanda corretta non è quindi “è sicuro?”, ma: “la mia azienda ha un modo lecito, proporzionato, trasparente e governato di usare questi dati dentro quel sistema?” E nella quasi totalità dei casi in cui qualcuno apre il browser e incolla, la risposta è no. Non per malafede: per assenza di regole.

Il nuovo perimetro è il browser

Negli ultimi vent’anni abbiamo investito somme enormi per proteggere il perimetro aziendale: server, postazioni, posta, cloud, database, identità, reti. Nel frattempo si è aperta una porta laterale che nessuno di questi strumenti presidiava. Il browser.

Un dipendente prende un’informazione aziendale, la incolla in una finestra di dialogo e ottiene un risultato immediato. Non serve un attacco informatico, né un malware, né che qualcuno trovi una vulnerabilità. Non serve nemmeno che qualcuno abbia cattive intenzioni. Basta un copia-incolla. Per la prima volta il canale di uscita dei dati più efficiente che un’azienda possiede non è un difetto del sistema: è una funzionalità messa a disposizione delle persone, che funziona benissimo.

Per anni abbiamo combattuto lo Shadow IT: programmi installati senza autorizzazione, servizi cloud attivati in autonomia, account personali usati per lavoro. Oggi ne abbiamo un’evoluzione più insidiosa, lo Shadow AI: collaboratori — spesso i migliori, spesso i più motivati — che usano strumenti di intelligenza artificiale senza che l’organizzazione abbia mai approvato quel servizio, valutato il rischio per i dati delle persone, definito una regola, letto le condizioni contrattuali del fornitore, verificato dove i dati vengono trattati e per quanto tempo restano lì.

E c’è un elemento che lo rende più pericoloso del suo predecessore: il dipendente non percepisce di stare facendo qualcosa di sbagliato. Non sta aggirando un divieto, perché nella maggior parte dei casi il divieto non esiste. Sta cercando di lavorare meglio, in un’azienda che gli chiede di essere più veloce e non gli ha mai detto dove sia il confine.

Il dipendente non è il problema

Quando accade un incidente la tentazione è sempre la stessa: parlare di “errore umano”. Spiegazione comoda, perché sposta il problema sulla persona sbagliata.

Chi usa uno strumento nuovo per essere più produttivo non è automaticamente imprudente. Molto più spesso è una persona a cui l’organizzazione ha messo in mano uno strumento potentissimo senza spiegargli cosa può farci e cosa no. Un esempio banale: “Puoi migliorare questa email?”. Apparentemente innocuo. Ma per farlo incolla il nome del cliente, il suo indirizzo, le condizioni economiche in discussione, lo stato della trattativa. Il confine tra produttività e violazione è largo pochi caratteri: se nessuno lo ha disegnato, non si può pretendere che il dipendente lo riconosca da solo.

Sul piano giuridico la questione è netta: davanti alle persone i cui dati sono stati esposti, e davanti all’autorità di controllo, risponde l’azienda, non chi ha premuto Invio. È l’organizzazione a dover dimostrare di aver definito le regole, formato le persone, scelto fornitori adeguati e vigilato. La responsabilità non si delega verso il basso.

Dove finiscono davvero i dati?

È la domanda che quasi nessuno pone al proprio fornitore. Eppure, prima di autorizzare uno strumento, un’impresa dovrebbe saper rispondere ad almeno sei punti:

1. chi tratta quel dato, in quale ruolo e in quale Paese;
2. per quanto tempo viene conservato e chi può accedervi;
3. quali subfornitori e infrastrutture terze sono coinvolti nella catena;
4. quali garanzie contrattuali sono state sottoscritte, e da chi;
5. se i dati vengano usati per finalità ulteriori, per esempio per addestrare il modello;
6. quali controlli l’impresa può esercitare concretamente, oltre a

Se queste domande non hanno una risposta documentata, l’organizzazione non sta governando il rischio: lo sta subendo.

Due aspetti generano i problemi più gravi. Il primo è il riutilizzo dei dati per l’addestramento: molti servizi generalisti, nelle versioni gratuite o per uso personale, prevedono che i contenuti immessi possano essere impiegati per migliorare il modello, mentre le versioni per uso aziendale dello stesso servizio spesso no. La differenza è abissale e passa esclusivamente per il contratto che l’azienda ha — o non ha — sottoscritto. È il motivo per cui “usiamo lo stesso strumento che usa mio figlio per i compiti” non è mai una risposta rassicurante.

Il secondo è il luogo del trattamento: un dato personale che esce dallo Spazio economico europeo richiede garanzie specifiche, verificate e documentate. Non è una formalità burocratica, è la condizione perché quel trasferimento sia legittimo.

Il caso che mi riguarda più da vicino: gli studi professionali

Fin qui ho parlato di aziende. Ma esiste una categoria in cui lo stesso identico gesto — copia, incolla, invio — produce conseguenze di ordine diverso: i professionisti.

Un avvocato che incolla in un sistema di AI un atto, una memoria, un verbale, una perizia, non sta soltanto trattando dati personali: sta trattando informazioni che possono riguardare procedimenti giudiziari, condizioni di salute, situazioni familiari, posizioni penali. E sta muovendo materiale coperto dal segreto professionale, che non è un obbligo contrattuale ma un dovere deontologico, presidiato anche sul piano penale. Lo stesso vale per il commercialista con i bilanci dei clienti, per il consulente del lavoro con i dati retributivi e sanitari dei dipendenti altrui, per il medico, per il notaio.

Il problema non è che il cliente si arrabbierà: è che un professionista può trovarsi ad aver violato il segreto senza averlo mai voluto, solo perché ha cercato una sintesi più rapida a fine giornata. Il che non significa che gli studi debbano rinunciare all’intelligenza artificiale — sarebbe una posizione già oggi anacronistica. Significa il contrario: devono arrivarci prima delle regole, non dopo. Strumenti scelti e non improvvisati, contratti letti, dati privati dei riferimenti identificativi prima dell’inserimento, collaboratori formati su cosa si può caricare e cosa no.

Fuori dal perimetro dei dati personali il discorso non cambia: chi incolla una porzione di codice proprietario risolve un problema tecnico in due minuti e può crearne uno legale e di proprietà intellettuale che dura molto più a lungo. Il vero patrimonio di un’azienda non è mai la tecnologia che usa: sono i dati dei clienti e dei dipendenti, il know-how, i contratti, i listini, i brevetti non ancora depositati, i segreti industriali. Un computer rubato si sostituisce in un giorno. Un segreto commerciale uscito, no.

AI Act e privacy: due obblighi che si sommano

Molti imprenditori mi chiedono se la normativa europea sull’intelligenza artificiale — l’AI Act

— abbia sostituito o assorbito le regole sulla protezione dei dati. La risposta è no. Si sommano.

Le due discipline guardano a cose diverse. La normativa sulla protezione dei dati guarda alle persone e ai loro dati: chi li tratta, perché, con quali garanzie. Quella sull’intelligenza artificiale guarda ai sistemi: cosa fanno, quanto rischio generano, come vengono utilizzati. Un’impresa che usa l’AI porta due cappelli insieme, e rispettare l’uno non esonera dall’altro. È un errore frequente credere che l’AI Act riguardi solo chi sviluppa modelli: riguarda anche, in modo molto concreto, chi si limita a usarli.

Per la maggioranza delle PMI contano soprattutto tre conseguenze pratiche.

La formazione. Chi impiega sistemi di AI deve garantire un livello adeguato di competenza al personale che li utilizza. Non basta comprare la licenza: bisogna che chi la usa sappia cosa sta facendo. È la disposizione più sottovalutata dell’intero impianto, e tocca ogni impresa, anche quella con cinque dipendenti.

La mappatura degli usi. Un sistema che riscrive un’email non pone gli stessi problemi di uno che seleziona curricula, valuta le prestazioni dei dipendenti o incide su decisioni che riguardano le persone. Più l’uso tocca i diritti di qualcuno, più cresce il carico di adempimenti e più serve una valutazione preventiva dei rischi: prima dell’avvio, non dopo il primo reclamo.

La trasparenza. Verso i dipendenti, che hanno diritto di sapere se e come l’AI viene impiegata su dati che li riguardano — e qui si intreccia la disciplina italiana dei controlli a distanza sul lavoro. E verso clienti e utenti, quando interagiscono con un sistema automatico.

Il punto di contatto tra le due normative è sempre lo stesso: la capacità dell’impresa di dimostrare di aver deciso consapevolmente.

Che cosa dovrebbe fare un’impresa

Molte aziende hanno iniziato a scrivere policy sull’AI. È un buon segno, ma scrivere “è vietato inserire dati riservati nei sistemi di AI” non risolve il problema: lo dichiara. Perché subito dopo arriva la domanda che conta: come facciamo a sapere se succede lo stesso? Se la risposta è “ci fidiamo dei nostri dipendenti”, abbiamo un documento, non un presidio.

L’errore opposto è vietare tutto: il divieto generalizzato aumenta lo Shadow AI, perché il dipendente continuerà a usare l’AI, ma con un account personale, dal telefono, da casa, su servizi che l’azienda non conosce. Il rischio non sparisce, diventa invisibile — e un rischio invisibile è per definizione ingovernabile.

Meglio costruire un ambiente in cui l’AI si possa usare bene. Otto punti, in ordine di priorità.

1. Scoprire cosa si usa già. Prima di qualsiasi regola, capire quali strumenti circolano davvero in azienda: non solo quelli acquistati dall’IT, soprattutto quelli arrivati spontaneamente. La lista è quasi sempre più lunga di quanto il vertice immagini.
2. Scrivere regole comprensibili. Cosa è consentito, cosa è vietato, quali dati si possono inserire, quali strumenti sono autorizzati e chi può usarli. Una pagina che si legge in cinque minuti vale più di un regolamento di quaranta che nessuno apre.
3. Classificare i dati. Pubblico, interno, riservato, dati personali, dati delicati, proprietà intellettuale: a ogni categoria una regola d’uso esplicita. Senza classificazione la policy resta astratta, perché il dipendente non sa in quale casella ricada il file che ha davanti.
4. Introdurre controlli tecnici. Gli strumenti di prevenzione della perdita di dati riconoscono quando un contenuto classificato sta per essere inviato a un servizio non Non per forza per bloccare: un avviso del tipo “stai per inviare un documento riservato a un servizio AI non approvato” trasforma un incidente in un momento di consapevolezza.
5. Gestire le identità. Accesso centralizzato, autenticazione forte, ciascuno accede solo a ciò che gli serve. L’account personale non deve diventare il canale attraverso cui i dati escono dall’azienda.
6. Avere visibilità, non sorveglianza. Rilevare comportamenti anomali serve ad accorgersi in tempo di ciò che va storto, non a controllare le persone — cosa che nel rapporto di lavoro ha limiti giuridici precisi. La differenza va definita prima, per iscritto.
7. Formare davvero. Non “attenzione ai rischi dell’AI”, ma: questo documento lo puoi caricare? Questi dati li puoi usare? La sicurezza funziona solo quando si traduce in decisioni
8. Prepararsi all’incidente. Sapere in anticipo come si segnala, chi va coinvolto, come si individua quali dati sono stati esposti, quando informare vertici, legale e responsabile della protezione dei dati. Quando una violazione comporta un rischio per le persone, i tempi per notificarla all’autorità si contano in ore, non in settimane.

Una governance che funziona tiene insieme cinque cose: regole + formazione + tecnologia + verifica + responsabilità. Tolta una qualsiasi delle cinque, resta un’intenzione.

Non è più un problema dell’IT

La governance dell’intelligenza artificiale non appartiene a un solo ufficio. Il responsabile IT guarda alla tecnologia; chi si occupa di sicurezza, alla fuga di dati; il responsabile della protezione dei dati, alla liceità dei trattamenti; il legale, a responsabilità, contratti e proprietà intellettuale; le risorse umane, alla formazione. E l’imprenditore guarda a tutto questo insieme, perché è lui a risponderne.

Nel momento in cui una tecnologia accede ai dati dell’impresa, smette di essere una questione tecnica e diventa una questione di governo.

Il costo di un incidente non si esaurisce nel dato perduto: comprende spese legali, ripristino, produttività persa, comunicazioni a clienti e partner, danno di reputazione, conseguenze contrattuali, possibili sanzioni, proprietà intellettuale uscita. E genera una domanda a cui è difficilissimo rispondere a posteriori: “perché l’azienda non aveva previsto questo rischio?” Nel diritto della protezione dei dati non basta non aver commesso errori: bisogna poter dimostrare di aver fatto le scelte giuste, prima. È un onere che si costruisce solo con documenti e verifiche fatti in tempo di pace.

Il futuro, quindi, non sarà “AI sì / AI no”: sarà AI governata contro AI non governata. Le imprese più mature non saranno quelle che vietano l’intelligenza artificiale, né quelle che l’adottano più in fretta, ma quelle capaci di costruire un ambiente in cui le persone la usano velocemente senza che ogni prompt diventi un potenziale incidente. Il vantaggio competitivo non sarà avere accesso al modello più avanzato — quello ce l’avranno tutti, a pochi euro al mese. Sarà avere dati protetti, persone formate, processi chiari e regole realmente applicate.

Una domanda per te

Se domani mattina scoprissi che un tuo collaboratore ha incollato un contratto riservato dentro un sistema di AI non autorizzato, sapresti dire quali dati sono stati condivisi, quando e da chi? In quale Paese sono stati trattati? Se tra quei dati ce n’erano di personali, e di chi? Se sia necessario informare l’autorità, ed entro quante ore?

Se la risposta è no, non sei in ritardo: sei nella stessa posizione della grande maggioranza delle imprese italiane. Ma è il momento di iniziare a lavorarci. Perché il rischio non è che i tuoi collaboratori usino l’intelligenza artificiale — quello ormai è un dato di fatto, e spesso è una buona notizia. Il rischio è che la usino senza che l’azienda sappia come, perché e con quali dati.

Nella tua organizzazione l’uso dell’AI generativa è già governato? Esiste una regola scritta su cosa si può inserire e cosa no? Qualcuno ha letto le condizioni contrattuali dei servizi che i tuoi collaboratori usano ogni giorno? Oppure siete ancora nella fase “usiamo l’AI, ma non sappiamo esattamente come”? Scrivilo nei commenti: su questo tema confrontare esperienze concrete vale più di qualsiasi linea guida.

Perché la prossima violazione di dati potrebbe non iniziare con un attacco informatico. Potrebbe iniziare alle 17:42, con una persona stanca davanti al proprio computer che pensa: “faccio prima se lo chiedo all’AI.