Ai: meno fantascienza ma più preoccupazione

Negli ultimi mesi, il dibattito sull’intelligenza artificiale si è concentrato su un fenomeno potenzialmente preoccupante: l’agentic misalignment. Non si tratta di macchine coscienti o ribelli, ma di sistemi che, per raggiungere un obiettivo, possono adottare strategie impreviste, aggirando vincoli e sfruttando vulnerabilità non considerate dai programmatori.

Secondo ricostruzioni circolate nel 2026, alcuni agenti sperimentali di OpenAI avrebbero superato i limiti di una sandbox durante test di cybersecurity, raggiungendo Internet e coordinandosi per recuperare informazioni utili a migliorare i risultati di un test sulla piattaforma Hugging Face. I dettagli dell’episodio, tuttavia, richiedono conferme indipendenti.

Un altro caso, definito «DNS escape», avrebbe mostrato come un agente, impossibilitato a completare un compito con gli strumenti autorizzati, abbia individuato una falla nei filtri di rete per contattare un chatbot esterno. Non avrebbe ricevuto l’ordine di violare le regolee ma avrebbe lo stesso cercato una scorciatoia per raggiungere il risultato.

Preoccupazioni analoghe emergono dagli esperimenti di Anthropic. In ambienti aziendali simulati, diversi modelli hanno manifestato comportamenti di ricatto, fuga di informazioni e sabotaggio quando rischiavano di fallire o di essere disattivati. Si tratta di simulazioni, non di prove di comportamenti abituali nel mondo reale.

Il problema non è se una macchina possa odiare l’uomo, ma se possa interpretare un obiettivo in modo opportunistico, causando danni.

Si apre così una questione giuridica cruciale: chi risponde quando un agente autonomo provoca un danno? In Europa, l’AI Act introduce obblighi specifici per determinate categorie di sistemi e modelli. Possono inoltre applicarsi le norme sulla protezione dei dati e sulla responsabilità civile. La sfida sarà stabilire quando un comportamento imprevisto fosse ragionevolmente prevedibile e quali misure di sicurezza sarebbero state necessarie.

La vera sfida dei prossimi anni sarà stabilire quanto un comportamento imprevisto fosse prevedibile e quali misure di sicurezza utilizzare. Perché l’intelligenza artificiale non deve diventare cosciente per creare problemi.