Notizie sull’AI generativa e privacy: il dettaglio che nessuno ti spiega sul trattamento dati

L’odore di polvere e cavi caldi nelle aule della vecchia scuola di paese non l’ho più dimenticato. Ricordo il vano sotto le scale, due patch panel appesi storti e una ciabatta multipresa che sembrava un presepe di lucine. La maestra mi chiese se i compiti caricati sul nuovo registro elettronico sarebbero finiti su internet per sempre. Allora risposi che tutto dipendeva da dove andavano a dormire quei file. Oggi, con l’AI generativa che si infila nelle nostre caselle di posta e nelle chat di lavoro, la domanda è tornata uguale e più urgente: dove vanno a dormire i nostri dati, e chi li sveglia di notte per addestrare una macchina a parlare meglio di noi?

Il dettaglio che nessuno ti spiega: la catena del trattamento

Si pensa spesso ai dati come a una fotografia scattata una volta e archiviata. In realtà, con i modelli generativi la fotografia diventa un film: addestramento, fine-tuning, inferenza, logging, telemetria e miglioramento continuo. Ognuno di questi passaggi è un trattamento. Non è un tecnicismo, è il dettaglio che fa la differenza tra conformità e rischio fuori controllo.

Nel linguaggio della normativa, la base giuridica che regge l’addestramento di un modello può non bastare a reggere anche l’uso dei prompt degli utenti per migliorarlo. Se in un’azienda io scrivo al modello nomi, e-mail, storie cliniche o piani industriali, quel testo è un dato personale o comunque un’informazione sensibile. Se l’app, per impostazione predefinita, usa le conversazioni per fare training, allora quei prompt non sono più solo messaggi: diventano materia prima per nuove trasformazioni.

È qui che molti inciampano. La domanda vera non è soltanto quali dati entrano nel dataset, ma anche che cosa succede ai dati che generiamo durante l’uso. Questa catena del trattamento è la parte di cui si parla meno, e in cui si nasconde la maggior parte delle sorprese.

Dal set di addestramento alla produzione: basi giuridiche diverse

Il mondo dell’AI ha imparato a proprie spese che non basta raschiare il web e metterci sopra un’etichetta di fair use. Il punto è che gli stessi modelli, quando passano dalla ricerca al prodotto, entrano in un’altra orbita legale. Chi decide le finalità? Chi verifica minimizzazione, conservazione, diritti degli interessati? Domande che sono pane quotidiano per il Garante per la protezione dei dati personali e che affondano nel cuore del GDPR.

Una base giuridica definita per l’addestramento non immunizza il successivo uso dei prompt per il fine-tuning. Il legittimo interesse ha confini stretti e non si allarga come gomma. Il consenso, quando c’è, dev’essere libero, informato e granulare. E quando non c’è, servono misure tecniche e organizzative robuste a limitare la portata del trattamento.

La conseguenza pratica è semplice e spesso ignorata: il pulsante che abilita il miglioramento del modello a partire dalle tue chat non è un innocuo interruttore. È l’imbocco di un nuovo trattamento, che merita una valutazione d’impatto, un registro e regole di conservazione chiare.

I prompt non sono corridoi vuoti

In fabbrica, dove oggi passo gran parte delle giornate, mi capita di usare modelli per ottimizzare consumi e cicli di macchina. Un manutentore mi ha chiesto se le domande che fa al chatbot finiscono in qualche memorizzazione occulta. La risposta sincera è che dipende dalle impostazioni, dal fornitore e dall’architettura. Prompt caching, registri di conversazione, embedding per la ricerca semantica, telemetria di performance: tutti tasselli che, se accesi insieme, costruiscono una mappa dei nostri pensieri professionali.

Se poi ci mettiamo sopra documenti interni per il recupero aumentato, succede una magia a due tagli. L’assistente diventa bravissimo, ma ogni briciola di testo caricata può restare in cache, in log o in backup. E se il miglioramento continuo è attivo, quelle briciole possono diventare pane per futuri allenamenti del modello. Nulla di illegale a priori, ma è proprio qui che servono confini netti e configurazioni consapevoli.

Anonimizzazione non è una parola magica

Si sente dire che basta anonimizzare. In realtà la maggior parte delle volte parliamo di pseudonimizzazione, che è utile ma reversibile con informazioni aggiuntive. L’anonimato vero richiede tecniche e controlli severi, oltre a un’analisi del contesto. E i modelli generativi hanno una memoria mutevole: non ricordano come un database, ma possono riprodurre frammenti se stimolati nel modo giusto.

È questa natura probabilistica che inganna. Cancelli un log e credi di avere chiuso la storia, ma il modello potrebbe aver già imparato da una sequenza di esempi simili. Per ridurre il rischio serve progettare a monte, non ripulire a valle. Minimizzare i dati, impostare retention corte, separare ambienti di sviluppo e produzione, e valutare l’uso on-device o in private cloud quando i casi d’uso lo permettono.

Quando scuola e industria si toccano

La prima volta che ho portato una rete in una scuola di collina, la sfida era far passare un cavo tra pareti vecchie e orari di ricreazione. Oggi la sfida è invisibile: far passare le informazioni giuste senza trascinarne con sé troppe di sbagliate. In produzione, una chat di supporto capace di leggere manuali tecnici è un risparmio reale; ma se nel prompt finiscono nomi di operatori e turni, quel testo è già un trattamento personale.

Allo stesso modo, in classe un assistente che riassume verifiche e propone esercizi è un aiuto concreto. Ma i compiti degli studenti contengono storie, errori, dettagli biografici. Se quella materia viene riciclata per addestrare, allora parliamo di finalità ulteriori che non possono restare implicite dietro un pulsante accettare.

Il nodo delle impostazioni predefinite

Molti servizi di AI partono con il miglioramento del modello attivo per default. È comprensibile dal punto di vista dell’innovazione, ma fragile da quello della fiducia. La persona crede di parlare con un assistente; in realtà sta firmando una liberatoria in miniatura con ogni frase che scrive. Le impostazioni predefinite sono il luogo dove la trasparenza si misura davvero.

Ho visto reparti cambiare umore quando, in mezza riunione, abbiamo disattivato il training dai log. Il modello è rimasto utile; la conformità è salita di molto; e soprattutto, l’ansia è scesa. È la prova che la qualità non dipende da una raccolta affamata e indiscriminata, ma dalla cura dei casi d’uso e dalla pulizia dei dati necessari.

Dalla governance alle scelte quotidiane

La governance dei dati non è una disciplina astratta. È il modo in cui decidi chi vede cosa, per quanto tempo, e con quale scopo. Un accordo di trattamento con il fornitore non è una formalità: deve specificare se i dati passano fuori dallo Spazio economico europeo, se vengono usati per migliorare il servizio, e con quali garanzie. Ogni spunta deve corrispondere a un impegno verificabile, non a una promessa vaga.

Dal lato tecnico, scegliere modelli che permettono esclusione dal training, attivare controlli di accesso, scrivere policy sui prompt e rimuovere metadati dove possibile sono passi concreti. Non sono una corazza perfetta, ma fanno la differenza. E quando il caso d’uso tocca informazioni sensibili, la valutazione d’impatto non è un fardello burocratico: è una simulazione di realtà, il posto dove smonti la catena del trattamento per vedere dove potrebbe spezzarsi.

Il limite dell’entusiasmo e il valore della lentezza

Ho una fascinazione sincera per le macchine che imparano. Le uso per ridurre consumi, anticipare guasti, misurare correnti invisibili. Ma il ritmo dell’entusiasmo non può sostituire il ritmo della responsabilità. C’è una bellezza particolare nella lentezza di certe scelte: rileggere un’informativa, rivedere una configurazione, chiedere a un fornitore di esplicitare un flusso di dati.

Nel momento in cui il modello indovina la risposta che aspettavi, è facile dimenticare da dove quella risposta è nata. Eppure la maturità di un’implementazione si vede proprio lì: nel sapere dire di no a una raccolta in più, di sì a una misura in più, e soprattutto nel tracciare un perimetro chiaro tra ciò che serve all’utente oggi e ciò che gioverebbe al modello domani.

Se ripenso a quella maestra, alla domanda sui compiti che dormono su internet, oggi risponderei così: non è solo dove dormono a contare, è chi li sveglia, per fare cosa e con quale permesso. Questo è il dettaglio che nessuno ti spiega davvero quando parla di AI e privacy. Ma è il dettaglio da cui dipende la fiducia.

E mentre chiudo un’altra giornata in reparto, con grafici di consumo che respirano come cuori sintetici, torno mentalmente a quel vano sotto le scale. Allora scrivevamo le password su un foglietto e ci sembrava una scorciatoia innocente. Oggi le scorciatoie sono interruttori software e log che accumulano frasi. Anche stavolta la soluzione non è un segreto, è una manutenzione: scegliere le impostazioni giuste, capire la catena del trattamento, e proteggere il sonno dei dati come si proteggono le macchine quando spengono le luci.