C'è un contratto implicito alla base di quasi tutti i servizi digitali che usiamo: tu ci dai i tuoi dati, noi ti diamo qualcosa di utile. Per anni questo scambio è avvenuto in modo opaco, con termini e condizioni che nessuno legge e consensi che vengono dati con un click distratto. L'avvento dell'AI generativa ha reso questo contratto ancora più complesso — e ancora meno trasparente.
Quando interagiamo con un modello linguistico, produciamo dati. Le nostre domande rivelano preoccupazioni, interessi, stati d'animo, problemi di salute, orientamenti politici. In molti casi, questi dati vengono usati per migliorare i modelli successivi. In altri casi, rimangono nei server delle aziende tecnologiche in modo indefinito.
La questione non è solo teorica. I sistemi AI addestrati su dati personali possono perpetuare o amplificare bias esistenti — nelle decisioni di credito, nelle selezioni del personale, nei sistemi di giustizia predittiva. Un algoritmo che decide se qualcuno ottiene un mutuo o viene convocato per un colloquio non è neutro: riflette i pattern dei dati su cui è stato addestrato, incluse le discriminazioni storiche.
L'Europa si è mossa con il GDPR e più recentemente con l'AI Act, il primo quadro regolamentare organico sull'intelligenza artificiale. È un passo importante, anche se i critici lo considerano ancora insufficiente di fronte alla velocità dell'innovazione.
La privacy nell'era dell'AI non è un problema tecnico da risolvere con le giuste impostazioni. È una questione di potere: chi controlla i dati, controlla sempre di più le opportunità, le informazioni, le decisioni. E quella concentrazione di potere merita attenzione pubblica.