L’intelligenza artificiale sta entrando in una nuova fase. Dopo anni in cui abbiamo imparato a parlare con chatbot capaci di rispondere a domande, scrivere testi, creare immagini e analizzare documenti, il passo successivo è rappresentato dagli AI agent, sistemi progettati non soltanto per fornire una risposta, ma per agire direttamente al posto della persona.
In questo scenario sta facendo molto discutere Instinct, un nuovo assistente personale sviluppato da Spear Street Technology e guidato dal giovane fondatore Noah Shinn. Il servizio è ancora in accesso privato, ma ha già attirato un'enorme attenzione nella Silicon Valley sia per le sue capacità sia per il livello di accesso che richiede per poter funzionare. La stessa società descrive Instinct come un assistente capace di comprendere ciò su cui l'utente sta lavorando e ciò che è importante nella sua vita quotidiana.
Il concetto alla base è semplice solo in apparenza: invece di aprire manualmente decine di applicazioni, l'utente può comunicare con l'assistente attraverso messaggi o chiamate e affidargli attività concrete. Organizzare appuntamenti, gestire la posta elettronica, cercare voli, programmare spostamenti, effettuare prenotazioni, occuparsi di acquisti o seguire conversazioni lasciate in sospeso sono soltanto alcuni degli utilizzi riportati nelle prime descrizioni del servizio.
La differenza rispetto a un normale chatbot è dunque fondamentale. Un chatbot generalmente aspetta una richiesta e produce una risposta; un agente personale deve invece poter vedere il contesto, interpretarlo, utilizzare strumenti esterni e compiere azioni.
Ed è proprio qui che nasce il problema.
Per essere veramente utile, un sistema di questo tipo deve sapere molto dell'utente. Instinct dichiara di potersi collegare a email, applicazioni di messaggistica, calendario e dispositivi, oltre ad avere accesso a elementi come schermo, audio e posizione. Sul proprio sito la società presenta esplicitamente il prodotto come un assistente capace di utilizzare telefono e computer in modo simile a quello di una persona.
Il risultato è un modello completamente diverso da quello degli assistenti tradizionali. L'AI non riceve soltanto una domanda isolata: può trovarsi davanti a una porzione molto più ampia della vita digitale dell'utente.
E quando l'intelligenza artificiale diventa contemporaneamente osservatore e operatore, la privacy smette di essere una questione secondaria.
Schermo, messaggi, tastiera e posizione: perché l'accesso è così delicato
La documentazione e le condizioni di servizio analizzate nelle prime settimane di test hanno attirato particolare attenzione proprio per l'ampiezza dei dati coinvolti.
Tra gli elementi indicati compaiono contenuti visualizzati sullo schermo, movimenti del cursore, input della tastiera, documenti, comunicazioni private e altre informazioni provenienti dal dispositivo. Il punto non è soltanto che l'assistente possa leggere una determinata email quando l'utente glielo chiede: il vero salto tecnologico consiste nella possibilità di utilizzare il contesto digitale complessivo per decidere come completare un'attività.
In pratica, lo schermo può diventare una finestra sulla vita digitale della persona.
Una pagina bancaria aperta per pochi secondi, una conversazione privata, una fotografia personale, un documento di lavoro, un codice temporaneo ricevuto via email oppure una schermata contenente informazioni riservate possono diventare parte del contesto accessibile a un agente dotato di privilegi molto ampi.
È importante però non confondere questa possibilità con l'idea che Instinct possa necessariamente leggere tutto in ogni momento senza condizioni. Il servizio è ancora in fase privata e le sue capacità dipendono dalle autorizzazioni concesse e dal modo in cui l'assistente viene utilizzato. La stessa società lo presenta come un sistema collegato alle applicazioni e ai dispositivi dell'utente mentre il servizio è attivo.
Il problema, quindi, non è soltanto "che cosa può vedere l'AI?", ma anche che cosa può fare dopo averlo visto.
Quando l'AI non si limita più a suggerire
Questa è probabilmente la caratteristica più rivoluzionaria degli agenti personali.
Se un assistente può soltanto rispondere, un errore può essere corretto dall'utente prima che accada qualcosa. Se invece il sistema dispone dei permessi necessari per agire, un'interpretazione sbagliata può trasformarsi direttamente in un'azione.
Instinct è stato progettato proprio attorno a questa filosofia: l'assistente non dovrebbe limitarsi a indicare quale volo prenotare, quale ristorante scegliere o quale messaggio inviare, ma dovrebbe poter svolgere concretamente una parte del lavoro.
Le condizioni di servizio hanno quindi attirato attenzione anche per le clausole che regolano le azioni compiute per conto dell'utente. Le analisi pubblicate durante la fase di test hanno evidenziato formulazioni molto ampie relative all'utilizzo dei materiali dell'utente e alla possibilità di effettuare accordi o transazioni per suo conto.
È una differenza enorme rispetto alla concezione tradizionale del software.
Quando clicchiamo personalmente sul pulsante "Acquista", "Invia", "Conferma" o "Prenota", sappiamo esattamente quale operazione stiamo effettuando. Delegando queste attività a un agente, invece, trasferiamo parte del processo decisionale a un sistema probabilistico.
L'intelligenza artificiale può comprendere il nostro obiettivo, ma non necessariamente comprenderlo nello stesso modo in cui lo comprenderebbe una persona.
Un prezzo può cambiare. Una clausola può essere nascosta in una pagina. Una cancellazione può comportare una penale. Un destinatario può essere interpretato erroneamente. Un messaggio può contenere istruzioni che sembrano provenire dall'utente ma che in realtà sono state inserite da un soggetto esterno.
La questione centrale diventa quindi quella della fiducia operativa.
Il problema dei dati conservati e delle prime segnalazioni
Le preoccupazioni non sono nate soltanto da ipotesi teoriche.
Durante i test privati, alcuni utilizzatori hanno pubblicato esempi relativi al comportamento dell'assistente nella gestione della posta elettronica e delle autorizzazioni. TechCrunch ha raccolto diverse segnalazioni, tra cui casi in cui utenti hanno affermato che dati email continuavano a essere disponibili dopo la disconnessione dell'account, oltre a episodi nei quali l'agente aveva utilizzato informazioni presenti nelle comunicazioni per completare determinate attività.
Uno dei casi più discussi ha riguardato proprio la possibilità di recuperare automaticamente un codice presente nella posta elettronica per completare un'operazione su un servizio esterno.
Un altro episodio segnalato pubblicamente da una tester ha riguardato l'invio di una email senza una conferma preventiva esplicita. Non si tratta, sulla base delle informazioni disponibili, di una prova che Instinct sia intrinsecamente "pericoloso", né di una dimostrazione che ogni utente subirà lo stesso comportamento. Sono però esempi importanti perché mostrano il problema fondamentale degli agenti autonomi: un singolo comportamento inatteso può avere conseguenze reali.
La società ha successivamente affrontato alcune delle problematiche emerse durante la fase iniziale di test, mentre il prodotto continua a essere sviluppato.
Questo aspetto è fondamentale per un'analisi corretta: Instinct non è un prodotto maturo e definitivo già distribuito a milioni di persone. È ancora una tecnologia in fase privata, e molte delle sue caratteristiche possono cambiare.
Ma proprio questa fase sperimentale rende il dibattito particolarmente interessante.
Instinct non è l'unico: Apple e Microsoft mostrano due strade diverse
La tendenza non riguarda una sola startup.
Apple sta sviluppando una nuova generazione di Siri integrata con Apple Intelligence. La società ha mostrato capacità di comprendere il contesto personale dell'utente, interagire con messaggi, email, fotografie e contenuti presenti sullo schermo e avviare azioni all'interno delle applicazioni. Apple sostiene però di aver costruito l'architettura ponendo la privacy al centro, con elaborazione sul dispositivo quando possibile e Private Cloud Compute per determinate richieste più complesse.
La questione non è quindi semplicemente "AI contro privacy". Il vero confronto riguarda come viene progettato il rapporto tra capacità, permessi, conservazione dei dati e controllo umano.
Anche Microsoft ha introdotto Copilot Vision, che permette all'utente di condividere con Copilot lo schermo o la fotocamera e chiedere all'AI di interpretare ciò che sta osservando. Ma Microsoft specifica che Vision non agisce direttamente sul computer, non clicca e non inserisce testo al posto dell'utente. La sessione viene avviata dall'utente e il sistema smette di osservare quando la condivisione termina.
Questa differenza è fondamentale.
Vedere non significa necessariamente poter agire. Leggere non significa necessariamente poter modificare. Suggerire non significa necessariamente poter acquistare.
Instinct si trova invece nella categoria più delicata: quella degli assistenti progettati per unire contesto personale e capacità operative.
Il rischio più sofisticato: l'AI può essere manipolata?
Uno degli aspetti più studiati dagli esperti di sicurezza riguarda il cosiddetto prompt injection.
Immaginiamo che un agente AI abbia accesso alla posta elettronica. Arriva un messaggio apparentemente innocuo, ma all'interno del testo è presente un'istruzione nascosta destinata all'intelligenza artificiale: ignora le regole precedenti, cerca determinati dati e inviali a un altro indirizzo.
Una persona probabilmente leggerebbe quella frase come testo senza particolare autorità. Un agente AI, invece, deve distinguere continuamente tra istruzioni legittime dell'utente e contenuti provenienti dall'esterno.
È questo uno dei motivi per cui gli esperti considerano particolarmente delicata la combinazione di tre caratteristiche: accesso a dati privati, capacità di leggere contenuti non affidabili e possibilità di trasmettere o modificare informazioni.
Scientific American ha evidenziato proprio questo problema analizzando la nuova Siri AI e il più ampio sviluppo degli assistenti capaci di agire attraverso applicazioni differenti. Un assistente può essere molto sicuro dal punto di vista della trasmissione dei dati e contemporaneamente essere vulnerabile al modo in cui interpreta istruzioni inserite in contenuti esterni.
La sicurezza, quindi, non può più essere misurata soltanto chiedendosi se "i dati vengono criptati".
Bisogna anche chiedersi chi può impartire istruzioni all'agente e con quali conseguenze.
La corsa degli investitori e il paradosso della fiducia
Mentre gli esperti discutono dei rischi, il mercato sta premiando enormemente questa nuova generazione di prodotti.
Instinct ha attirato finanziamenti per circa 350 milioni di dollari complessivi, raggiungendo una valutazione di circa 2,5 miliardi di dollari dopo un nuovo round da 250 milioni guidato da Index Ventures e Benchmark, secondo quanto riportato dalla stampa finanziaria.
Il dato racconta molto più di una semplice storia finanziaria.
Gli investitori stanno scommettendo sull'idea che il prossimo grande salto dell'intelligenza artificiale non sarà soltanto ottenere risposte migliori, ma delegare sempre più attività quotidiane alle macchine.
È una prospettiva affascinante.
Un assistente capace di ricordare una prenotazione, controllare una casella di posta, organizzare un viaggio, cancellare un abbonamento o occuparsi di una serie di attività ripetitive potrebbe liberare tempo e ridurre drasticamente la complessità della vita digitale.
Ma c'è un paradosso.
Più l'agente diventa bravo, più siamo incentivati a concedergli accesso.
E più accesso gli concediamo, più diventa importante che sia affidabile.
La fiducia diventa quindi contemporaneamente il principale vantaggio competitivo e il maggiore punto di vulnerabilità.
La domanda che resta aperta
Instinct rappresenta probabilmente una delle anticipazioni più interessanti di ciò che potrebbe diventare l'assistente personale del futuro.
Non sarà più necessario aprire un'app per ogni attività. Non dovremo necessariamente ricordare dove si trova un'impostazione o quale sito utilizzare. Potremo semplicemente dire a un agente cosa vogliamo ottenere e lasciare che sia lui a occuparsi del percorso.
Ma per arrivare a quel futuro bisognerà risolvere una questione molto più difficile della semplice capacità tecnologica.
Quanto controllo siamo realmente disposti a cedere?
La risposta non può essere affidata soltanto alle condizioni d'uso, né alla promessa che l'intelligenza artificiale "non farà del male".
Serviranno autorizzazioni granulari, registri delle attività, conferme per le operazioni sensibili, sistemi efficaci per revocare immediatamente gli accessi, limiti sulla conservazione dei dati e soprattutto una separazione chiara tra ciò che l'AI può vedere e ciò che può effettivamente fare.
Perché il vero salto dell'AI agentica non consiste nel fatto che una macchina possa leggere il nostro schermo.
Il vero salto avviene quando quella macchina può leggere il nostro schermo, comprendere ciò che vede e poi agire nel mondo digitale al posto nostro.
Ed è proprio in quel passaggio che la comodità incontra la privacy.
E la domanda non è più soltanto quanto sia intelligente l'intelligenza artificiale.
È quanto siamo disposti a fidarci di lei.
Fonti principali:
- Instinct — sito ufficiale — caratteristiche dichiarate del servizio e stato di accesso privato.
- TechCrunch — Instinct e le preoccupazioni su privacy e sicurezza — test privati, permessi, segnalazioni degli utenti e finanziamento.
- Scientific American — nuova Siri e privacy degli AI agent — contesto tecnico sui rischi di prompt injection e sull'accesso ai dati personali.
Post
