🎧 Prima di iniziare
Luna pop — 50 Special

È venerdì sera e stai cercando di organizzare un fine settimana a Firenze.

Vuoi partire in treno, visitare una mostra e trovare un albergo abbastanza vicino al centro. Hai aperto diversi siti, stai confrontando gli orari dei treni e intanto cerchi di capire se per la mostra bisogna prenotare.

A un certo punto decidi di chiedere aiuto a ChatGPT.

«Organizzami un fine settimana a Firenze. Partenza sabato mattina, ritorno domenica sera. Vorrei visitare questa mostra e spendere non più di 300 euro».

La risposta potrebbe essere un programma dettagliato, con suggerimenti sugli orari, qualche albergo e una stima delle spese.

Utile, certamente. Ma dopo aver letto la risposta devi ancora fare parecchie cose.

Controllare gli orari effettivi dei treni, verificare i prezzi, cercare le camere disponibili, prenotare i biglietti.

E se invece l’intelligenza artificiale potesse occuparsi anche di queste operazioni?

Dal suggerire al fare

Negli articoli precedenti abbiamo visto che un modello linguistico riceve le nostre richieste e genera risposte. Può scrivere un testo, analizzare un documento, proporre una soluzione a un problema.

Ma c’è una differenza tra spiegarti come fare qualcosa e farla davvero.

Se chiedi a un chatbot di scrivere una mail, ricevi un testo che puoi copiare e inviare. Se chiedi a un sistema dotato degli strumenti necessari di preparare e spedire quella stessa mail, gli stai affidando un compito diverso.

Nel primo caso il risultato è una risposta. Nel secondo può essere un’azione concreta.

È qui che entrano in gioco gli agenti AI, o agenti di intelligenza artificiale.

Un agente è un sistema che utilizza un modello di IA per perseguire un obiettivo, scegliere quali operazioni effettuare e servirsi degli strumenti disponibili per portarle a termine.

La differenza più interessante è che non devi necessariamente indicargli ogni singolo passaggio.

Puoi descrivere quello che vuoi ottenere e lasciare che sia il sistema a individuare una possibile strada per arrivarci.

Naturalmente, nei limiti degli strumenti, delle autorizzazioni e delle regole che gli sono stati assegnati.

Ma come fa un modello che genera parole a prenotare un treno?

Questa è la parte che trovo più interessante.

Nell’articolo su che cosa fa davvero un’IA generativa abbiamo visto che un modello linguistico lavora producendo sequenze di token, cioè piccole unità di testo o di altri contenuti.

Da solo, un modello non può premere un pulsante su un sito web o aggiungere un appuntamento al calendario. Per fare queste cose ha bisogno di strumenti esterni.

Immagina di tornare al nostro fine settimana a Firenze.

Il sistema riceve la tua richiesta e individua alcune operazioni necessarie. Per esempio, deve cercare i collegamenti ferroviari.

Il modello può indicare a un programma di utilizzare uno strumento di ricerca. Il programma esegue la ricerca e gli restituisce i risultati.

A quel punto il modello dispone di nuove informazioni. Può confrontare gli orari, accorgersi che un treno arriva troppo tardi e decidere di cercarne un altro.

Poi passa agli alberghi, verifica la disponibilità della mostra e aggiorna il programma in base a ciò che ha trovato.

Il meccanismo può ripetersi diverse volte.

Il modello propone un’operazione, uno strumento la esegue, il sistema osserva il risultato e decide come proseguire.

Naturalmente, qui sto semplificando. I sistemi reali possono usare strumenti diversi, controlli automatici e passaggi molto più articolati.

Il principio, però, è questo.

Il modello linguistico rimane la componente che interpreta la richiesta e contribuisce a scegliere i passaggi successivi. Le azioni vengono materialmente eseguite da altri programmi.

Ecco perché un agente può utilizzare un browser, lavorare su file, interrogare un archivio o interagire con applicazioni esterne, se gli è stato consentito di farlo.

Non ha imparato magicamente a usare le mani. Gli abbiamo messo a disposizione degli strumenti.

Quanto è autonomo un agente?

Qui vale la pena chiarire un equivoco.

Quando sentiamo parlare di agenti autonomi, potremmo immaginare un’intelligenza artificiale capace di lavorare da sola, prendere decisioni e risolvere qualsiasi problema.

In realtà l’autonomia può essere molto diversa da un sistema all’altro.

Alcuni seguono percorsi abbastanza rigidi, stabiliti in anticipo. Altri possono scegliere quali strumenti utilizzare, modificare il proprio piano e tentare strade differenti quando incontrano un ostacolo.

È una distinzione importante anche rispetto alle automazioni tradizionali.

Un programma che ogni mattina alle otto scarica un file e lo invia per email esegue una sequenza di istruzioni già definita. Non ha bisogno di decidere che cosa fare.

Un agente incaricato di raccogliere le notizie più importanti su un argomento potrebbe invece cercare fonti differenti, scartare risultati poco pertinenti, approfondire una notizia e modificare la ricerca se non trova informazioni sufficienti.

Il percorso non è interamente stabilito in partenza.

Questo gli offre una certa flessibilità, ma introduce anche nuove possibilità di errore.

E soprattutto non significa che il sistema abbia una volontà propria o comprenda le conseguenze delle sue azioni come farebbe una persona.

Continua a operare attraverso modelli, programmi e istruzioni.

Quando un errore non rimane nella risposta

Torniamo ancora una volta a Firenze.

Il nostro agente ha trovato un albergo, verificato alcuni collegamenti e preparato un itinerario. Tutto sembra funzionare.

Poi scopri che ha selezionato una camera per la domenica notte, anziché per il sabato.

Se si fosse limitato a suggerire un albergo, probabilmente ti saresti accorto dell’errore durante la prenotazione.

Ma se il sistema avesse già effettuato la prenotazione, la situazione sarebbe diversa.

Finché l’intelligenza artificiale genera testi, molti errori possono essere individuati prima che abbiano conseguenze nel mondo reale.

Quando comincia ad agire, un errore può produrre effetti immediati.

Una mail inviata alla persona sbagliata. Un appuntamento cancellato. Un documento modificato. Un acquisto non desiderato.

C’è anche un problema meno evidente.

Un agente può incontrare informazioni sbagliate o istruzioni nascoste nei siti e nei documenti che consulta. Qualcuno potrebbe cercare di fargli eseguire un’operazione diversa da quella richiesta.

Questi tentativi vengono chiamati prompt injection: istruzioni inserite in contenuti esterni con l’obiettivo di influenzare il comportamento del sistema.

Non è un motivo per rinunciare agli agenti, ma è una ragione concreta per prestare attenzione agli accessi che concediamo.

La differenza tra cercare e prenotare

Supponiamo che l’agente abbia completato la ricerca per il fine settimana.

Ha trovato due treni, individuato un albergo e verificato che ci sono ancora biglietti disponibili per la mostra.

A questo punto potrebbe presentarti il programma e chiederti se vuoi procedere con le prenotazioni.

Personalmente, trovo che questa separazione sia particolarmente sensata.

Lasciare all’intelligenza artificiale il lavoro di ricerca e confronto può essere comodo. Permetterle di spendere denaro o inviare comunicazioni a nome nostro richiede qualche cautela in più.

Non tutte le azioni hanno lo stesso peso.

Può avere senso consentire a un agente di cercare autonomamente informazioni, ma chiedere una conferma prima di modificare un documento importante o completare un acquisto.

E la conferma non dovrebbe essere un pulsante da premere distrattamente. Dovremmo poter capire che cosa sta per fare, con quali dati e con quali conseguenze.

Anche questo, però, non elimina tutti i rischi. Un agente potrebbe sbagliare nei passaggi precedenti o utilizzare informazioni incomplete.

Per questo vale la pena partire da compiti circoscritti, con autorizzazioni limitate e risultati facilmente verificabili.

Abbiamo davvero bisogno di un agente?

Probabilmente meno spesso di quanto suggeriscano certe presentazioni commerciali.

Se devi riassumere un articolo o migliorare il testo di una mail, un normale chatbot può essere più che sufficiente.

Un agente comincia a essere interessante quando il lavoro richiede diversi passaggi, l’utilizzo di strumenti differenti e la capacità di adattarsi a quello che succede durante l’esecuzione.

Ma questa maggiore flessibilità ha un costo: il sistema può richiedere più tempo, utilizzare più risorse e commettere errori lungo il percorso.

Non sempre affidare un compito a un agente significa risparmiare tempo. Se dobbiamo controllare ogni singolo passaggio di un’operazione semplice, forse abbiamo soltanto complicato qualcosa che potevamo fare direttamente.

Il vantaggio emerge quando possiamo affidargli una parte significativa del lavoro mantenendo un controllo ragionevole sul risultato.

Che cosa siamo disposti a delegare?

Ripenso alla prenotazione del nostro fine settimana.

Chiedere a un’intelligenza artificiale di suggerire un itinerario è una cosa. Permetterle di cercare treni e alberghi è già un passo ulteriore. Lasciarle completare le prenotazioni comporta una responsabilità diversa.

Finora, usando ChatGPT e strumenti simili, ci siamo abituati soprattutto a valutare le risposte che riceviamo.

Con gli agenti dobbiamo imparare anche a valutare le azioni che siamo disposti ad autorizzare.

E forse la domanda da porci non è quanto diventeranno autonomi questi sistemi.

È quanta autonomia vogliamo concedere loro.

Tu, per esempio, lasceresti che un agente organizzasse e prenotasse da solo il tuo prossimo viaggio, oppure preferiresti confermare personalmente ogni acquisto?

Fonti e approfondimenti