🎧 Prima di iniziare
883 e Caterina Rappoccio — Aereoplano

Un’amica ti ha mandato un messaggio piuttosto lungo. Ti racconta una situazione complicata sul lavoro, ti chiede un consiglio e tu vorresti risponderle nel modo giusto.

Hai qualche idea, ma non riesci a trovare le parole. Così apri ChatGPT, copi il messaggio che hai ricevuto e chiedi di aiutarti a preparare una risposta.

Dopo pochi secondi hai una proposta. La leggi, cambi qualche frase e la mandi.

Tutto abbastanza semplice.

C’è però un dettaglio che forse non hai considerato. Nel messaggio che hai copiato c’erano il nome della tua amica, quello di un collega, il riferimento all’azienda per cui lavora e alcune informazioni personali.

Per ottenere un suggerimento su come rispondere, hai condiviso con un servizio di intelligenza artificiale una parte della vita di un’altra persona.

Probabilmente non era necessario.

Quando scriviamo a ChatGPT, con chi stiamo parlando?

Nell’articolo Che cosa fa davvero un’IA generativa? abbiamo visto come un modello linguistico costruisce le sue risposte. Più recentemente abbiamo scoperto come, attraverso gli agenti AI, questi sistemi possano anche utilizzare strumenti ed eseguire alcune operazioni.

Adesso torniamo a un gesto molto più semplice: scrivere una richiesta.

Quando utilizzi ChatGPT, Claude, Gemini o un altro servizio simile, il testo che inserisci viene elaborato per generare una risposta.

Se utilizzi un servizio online, le informazioni vengono trasmesse ai sistemi che lo gestiscono. Lo stesso vale, in generale, per i documenti, le immagini e gli altri contenuti che decidi di caricare.

Ma il modello linguistico e il servizio che lo mette a disposizione sono due cose diverse.

Il modello elabora le informazioni per produrre una risposta. Il servizio gestisce anche altri aspetti: le conversazioni, gli account, gli eventuali file caricati e le impostazioni che regolano il trattamento dei dati.

Per questo, quando parliamo di privacy, non basta sapere come funziona il modello. Dobbiamo capire anche come vengono gestite le informazioni che gli affidiamo.

E qui nasce un equivoco piuttosto diffuso.

L’intelligenza artificiale si ricorda tutto quello che scriviamo?

Dipende da che cosa intendiamo con ricordare.

Ci sono almeno tre fenomeni che tendiamo a confondere.

Il primo riguarda la conservazione delle conversazioni. Molti servizi permettono di ritrovare le chat precedenti. Questo significa che i messaggi vengono conservati secondo le regole previste dal servizio e dalle impostazioni dell’account.

Il secondo è l’addestramento dei modelli. Alcuni fornitori possono utilizzare le conversazioni degli utenti per migliorare i propri modelli, a seconda del servizio, del contratto e delle preferenze impostate.

Non significa che ogni frase scritta venga immediatamente imparata dal modello o che, dopo avergli raccontato qualcosa, tutti gli altri utenti possano chiedergli di ripeterla. L’addestramento è un processo distinto dalla normale conversazione.

Il terzo fenomeno è la memoria.

Alcuni assistenti possono conservare o recuperare informazioni utili per personalizzare le risposte successive. Per esempio, se sanno che preferisci spiegazioni brevi, possono tenerne conto anche nelle conversazioni future.

Questa memoria non coincide con l’addestramento del modello.

Sono meccanismi differenti, con finalità e impostazioni diverse.

Capire la distinzione è importante perché disattivare una funzione non significa necessariamente disattivare anche le altre.

Possiamo decidere che cosa viene conservato?

In parte sì, ma le possibilità cambiano da un servizio all’altro.

Prendiamo ChatGPT come esempio.

Negli account personali puoi disattivare l’utilizzo delle nuove conversazioni per migliorare i modelli. Le chat possono comunque rimanere nella cronologia: impedire l’utilizzo per l’addestramento non equivale a cancellarle.

Puoi anche utilizzare una chat temporanea, che non compare nella cronologia finché rimane temporanea e non viene usata per addestrare i modelli. Una copia può comunque essere conservata fino a 30 giorni per motivi di sicurezza.

Gli account utilizzati da aziende e organizzazioni possono avere regole differenti.

Non serve conoscere a memoria tutte queste opzioni. È però utile sapere che esistono e che conservazione, addestramento e memoria non sono la stessa cosa.

Soprattutto, nessuna impostazione sostituisce una domanda che dovremmo farci prima di condividere un’informazione: è davvero necessario farlo?

Il problema non riguarda soltanto i nostri dati

Torniamo al messaggio della nostra amica.

Forse non ti preoccupa particolarmente che un servizio conservi una tua richiesta. Ma la conversazione che hai copiato contiene informazioni che riguardano qualcun altro.

Lo stesso può succedere quando chiedi di riassumere una relazione di lavoro, analizzare un foglio Excel o correggere una lettera.

Un documento può contenere nomi, indirizzi, numeri di telefono, informazioni economiche o dettagli relativi alla salute di una persona.

A volte questi dati sono indispensabili per svolgere un compito. Molto più spesso non lo sono.

Se vuoi chiedere all’IA di migliorare una mail, probabilmente non serve indicare il nome e il cognome del destinatario. Se vuoi riassumere un documento, potresti eliminare le informazioni personali prima di caricarlo.

È un modo per applicare un principio importante della protezione dei dati: utilizzare soltanto le informazioni necessarie per raggiungere uno scopo.

Si chiama minimizzazione dei dati ed è uno dei principi previsti dal Regolamento europeo sulla protezione dei dati personali, il GDPR.

Non è una regola pensata esclusivamente per l’intelligenza artificiale. Vale più in generale per il trattamento dei dati personali.

Naturalmente, sostituire un nome con una lettera non garantisce automaticamente l’anonimato. Se lasciamo abbastanza dettagli sul contesto, una persona potrebbe essere comunque riconoscibile.

L’obiettivo è imparare a distinguere le informazioni che servono davvero da quelle che stiamo aggiungendo soltanto per abitudine.

Più informazioni, risposte migliori?

Qui c’è un piccolo paradosso.

Quando abbiamo imparato a scrivere richieste efficaci per i modelli linguistici, abbiamo scoperto che fornire contesto aiuta spesso a ottenere risposte migliori.

Se chiedi semplicemente «scrivimi una mail», il risultato sarà probabilmente generico. Se spieghi a chi è destinata, perché la stai scrivendo e quale tono vorresti usare, il modello avrà più elementi su cui lavorare.

Ma fornire contesto non significa raccontare tutto.

Per aiutarti a rispondere alla tua amica, l’intelligenza artificiale potrebbe aver bisogno di conoscere la situazione e il tipo di risposta che desideri. Non necessariamente deve sapere dove lavora, come si chiama il suo responsabile o quali altri problemi personali sta affrontando.

Puoi anche riformulare la richiesta:

Una persona a cui tengo sta vivendo un conflitto con un collega e mi ha chiesto un consiglio. Vorrei risponderle in modo comprensivo, senza prendere posizione e senza minimizzare il problema. Mi aiuti a preparare un messaggio?

Hai fornito abbastanza informazioni per iniziare a lavorare, evitando diversi dettagli che avrebbero aggiunto poco alla qualità della risposta.

Naturalmente non sempre è così semplice. Alcuni compiti richiedono informazioni precise e, quando si lavora con documenti professionali o riservati, occorre considerare anche le regole della propria organizzazione.

Il punto è che la qualità di una richiesta dipende dalla pertinenza delle informazioni, non dalla loro quantità.

E se l’intelligenza artificiale potesse accedere direttamente ai nostri dati?

Nell’ultimo articolo abbiamo parlato degli agenti AI, sistemi che possono utilizzare strumenti ed eseguire operazioni per raggiungere un obiettivo.

C’è un aspetto che merita di essere approfondito.

Finora abbiamo immaginato di scegliere personalmente quali informazioni condividere. Copiamo un testo, carichiamo un documento e decidiamo che cosa far leggere al sistema.

Ma che cosa succede se colleghiamo un assistente alla nostra posta elettronica o a una cartella contenente centinaia di documenti?

A quel punto l’intelligenza artificiale potrebbe accedere, nei limiti delle autorizzazioni ricevute, anche a informazioni che non abbiamo selezionato personalmente.

Immagina di chiederle di cercare tutte le mail relative a una prenotazione. Per trovare quella giusta, potrebbe dover consultare più messaggi. E alcuni potrebbero contenere dati personali, conversazioni riservate o informazioni che non hanno nulla a che vedere con la prenotazione.

Non significa necessariamente che tutti questi dati vengano conservati o utilizzati per addestrare il modello. Significa però che il sistema può elaborarli durante il lavoro e, in determinate condizioni, trasmetterne una parte agli strumenti esterni che utilizza.

È una differenza importante rispetto a quando copiamo volontariamente un testo nella finestra di un chatbot.

Per questo, prima di collegare un servizio, vale la pena capire a quali informazioni potrà accedere e se possiamo limitarne l’accesso a quelle effettivamente necessarie.

La questione, insomma, si sposta: non dobbiamo più decidere soltanto che cosa raccontare all’intelligenza artificiale, ma anche che cosa permetterle di leggere.

Prima di premere Invio

La privacy viene spesso presentata come un problema tecnico da risolvere attraverso impostazioni, autorizzazioni e informative che quasi nessuno ha voglia di leggere.

Questi strumenti sono importanti, ma c’è anche qualcosa che possiamo fare prima ancora di aprire le impostazioni.

Possiamo prestare più attenzione a quello che scriviamo.

Quando parliamo con un’altra persona, di solito scegliamo quanto raccontarle. Ci regoliamo in base alla relazione, alla situazione e al grado di fiducia.

Con un chatbot questa attenzione rischia di diminuire. La risposta arriva in modo naturale, il tono è amichevole e dopo qualche scambio possiamo avere la sensazione di trovarci in una conversazione privata.

Ma un servizio di intelligenza artificiale non è un confidente nel senso umano del termine. È un sistema tecnologico, gestito da un’organizzazione, che elabora le informazioni secondo determinate regole.

Possiamo usarlo con fiducia, purché sia una fiducia informata.

La prossima volta che stai per copiare un documento, una mail o una conversazione dentro ChatGPT, prova a rileggere il testo prima di inviarlo.

Forse scoprirai che, per ottenere un buon risultato, hai bisogno di raccontargli molto meno di quanto pensavi.

E forse la domanda più utile da farci, prima di premere Invio, è proprio questa:

questa informazione serve davvero all’intelligenza artificiale per aiutarmi?

Fonti e approfondimenti