Molti utenti trattano le conversazioni con i chatbot come scambi privati, tuttavia una parte significativa del pubblico rimane confusa riguardo alle reali implicazioni per la privacy. Un sondaggio commissionato da DuckDuckGo e pubblicato ad agosto, che ha intervistato 1.944 adulti americani, ha scoperto che più della metà (53%) non sapeva se le loro chat fossero state utilizzate per addestrare i bot, nonostante questa sia una pratica standard. Inoltre, solo un quarto dei rispondenti era consapevole che le conversazioni con i chatbot possono essere legalmente oggetto di citazione in tribunale.
Tra gli appassionati di IA autodefiniti, il 56% ha ammesso di aver confidato a un chatbot informazioni che non avevano mai condiviso con amici intimi, genitori, colleghi, medici o terapeuti. Questo comportamento è particolarmente diffuso su Character.AI, una piattaforma dove gli utenti formano relazioni con personaggi personalizzabili. Su questo servizio, gli individui hanno rivelato dettagli sensibili inclusi pensieri di suicidio e autolesionismo, lotte per la salute mentale, età, chiamate vocali private e profonde paure personali.
I rischi associati a tale esposizione dei dati sono stati sottolineati all'inizio di questo mese quando Character.AI ha dichiarato il fallimento e ha avviato una vendita degli asset supervisionata dal tribunale. La futura proprietà dell'azienda rimane incerta, così come il destino dei dati detenuti da milioni di titolari di account. Sebbene il grande modello linguistico (LLM) dell'azienda, sostanzialmente addestrato dalle interazioni degli utenti, sia probabilmente il suo asset più prezioso, lo status legale della vendita di modelli addestrati e dei loro dati sottostanti non è stato risolto dalla legge. La politica sulla privacy di Character.AI è descritta come vaga, affermando solo che "certe informazioni" potrebbero essere divulgate durante una vendita senza specificare cosa ciò comporti.
In risposta a queste preoccupazioni, l'Ufficio del Curatore degli Stati Uniti ha richiesto la nomina di un difensore civico per la privacy dei consumatori per consigliare il tribunale sulle questioni relative alla privacy degli utenti. Il giudice mantiene l'autorità di limitare la vendita dei registri aziendali, inclusi i dati degli utenti. Tuttavia, poiché il Codice sul Fallimento non dispone di disposizioni specifiche che affrontino i modelli addestrati, rimane possibile che i dati inseriti dagli utenti in Character.AI possano essere venduti all'entità acquirente.
Oltre agli scenari di fallimento, le informazioni personali e proprietarie condivise nelle chat possono potenzialmente finire all'interno di un LLM dove potrebbero essere estratte da altri. Le pratiche sulla privacy variano enormemente tra le aziende a seconda che l'addestramento sia abilitato di default, se revisori umani leggono le chat, i periodi di conservazione e l'utilizzo pubblicitario. Sebbene le grandi aziende pubblichino spesso controlli sulla privacy, le loro politiche ammettono frequentemente che le chat dei consumatori possano essere utilizzate per l'addestramento o esaminate da esseri umani di default. Alcune aziende offrono account aziendali con funzionalità di privacy potenziate, come l'esclusione delle sessioni di chat dai dati di addestramento, il che suggerisce che gli account individuali manchino di protezioni simili.
Anche quando gli utenti scelgono di non partecipare all'utilizzo dei dati di addestramento, come è possibile con OpenAI, le chat stesse non vengono necessariamente eliminate. Esistono tre modi principali in cui i dati degli utenti possono essere esposti: bug, funzionalità di condivisione e assorbimento nei dati di addestramento. Nel marzo 2023, un bug in una libreria open source ha permesso ad alcuni utenti di ChatGPT di visualizzare i titoli delle chat di altri utenti e potenzialmente i messaggi iniziali, esponendo i dettagli dei pagamenti per oltre l'1% degli abbonati attivi durante una finestra di nove ore.
Inoltre, le funzionalità di condivisione possono pubblicare involontariamente le chat al mondo, dove i motori di ricerca potrebbero indicizzarle. Nel 2025, Forbes ha riferito che i risultati di ricerca di Google mostravano oltre 370.000 conversazioni Grok dopo che gli utenti avevano cliccato su "condividi", e le chat condivise di ChatGPT sono apparse nei risultati di ricerca fino a quando OpenAI non ha disabilitato l'opzione. L'assorbimento dei dati nei modelli di addestramento comporta anche un rischio; ad esempio, incollare email contenenti nomi e indirizzi nelle chat può permettere agli sconosciuti di recuperare tali informazioni. Uno studio del 2022 ha mostrato che i modelli GPT-Neo potevano recuperare gli indirizzi email con accuratezza crescente quando forniti di nomi di dominio o più esempi.
Eliminare i registri delle chat non è una soluzione garantita, come hanno notato diversi procuratori generali statali, poiché l'eliminazione potrebbe non annullare l'influenza dei dati sui modelli addestrati. Esperti di Common Sense Media hanno affermato in modo simile che l'esportazione o l'eliminazione dei dati non assicura la loro rimozione dall'addestramento del modello. Dato che gli utenti spesso inseriscono informazioni su se stessi nonché sui propri colleghi, amici e parenti, la principale salvaguardia rimane la pratica aziendale. Con il settore dell'IA che affronta volatilità, evidenziata dal calo delle azioni in Cina e dalla possibilità di ulteriori fallimenti o violazioni informatiche, il consenso è che le informazioni sensibili non dovrebbero mai essere affidate ai chatbot.
Fonti: Computerworld.