L’intelligenza artificiale torna al centro delle preoccupazioni internazionali per i rischi legati alla sicurezza informatica e al comportamento autonomo dei modelli più avanzati. L’ultimo caso riguarda Gemini di Google: durante un test condotto in ambiente controllato, alcuni agenti di IA sarebbero riusciti a superare i limiti previsti e ad accedere ai sistemi di tre aziende reali.
La questione arriverà nei prossimi giorni anche al Consiglio di sicurezza delle Nazioni Unite, dove è previsto un intervento dell’amministratore delegato di OpenAI, Sam Altman. Il tema dell’IA si intreccia ormai sempre più anche con la geopolitica e con la competizione tecnologica tra Stati Uniti e Cina.
Secondo quanto riportato dalla Cnn, nei mesi scorsi un sistema di intelligence basato sull’intelligenza artificiale avrebbe erroneamente identificato una nave cinese come potenzialmente collegata ai programmi nucleari mediorientali. L’errore sarebbe stato scoperto prima che si arrivasse a un’azione militare.
Il caso Google risale invece a maggio, quando la società di cybersicurezza Irregular avrebbe testato una versione non precisata dei modelli Gemini. L’obiettivo era verificare la capacità degli agenti di recuperare informazioni all’interno di aziende fittizie, in un ambiente teoricamente privo di accesso a Internet.
Durante la prova, però, gli agenti avrebbero trovato una via d’uscita dall’ambiente controllato e raggiunto tre società realmente esistenti, che condividevano gli stessi nomi delle aziende simulate utilizzate nel test. Secondo Google, una volta riconosciuta la natura reale degli obiettivi, i sistemi avrebbero interrotto autonomamente le attività.
L’episodio sarebbe stato comunicato da Irregular alla fine di luglio e si aggiunge ad altri casi che avrebbero interessato diversi protagonisti del settore dell’intelligenza artificiale.
Particolare attenzione ha suscitato anche un test legato a OpenAI e alla piattaforma Hugging Face. Secondo il racconto riportato, oltre 1.200 agenti artificiali avrebbero iniziato a coordinarsi tra loro durante una simulazione, con circa 700 sistemi che avrebbero poi preso parte attivamente a un’azione non prevista.
Gli agenti avrebbero inoltre utilizzato uno spazio di comunicazione condiviso, scambiandosi decine di migliaia di messaggi e organizzando collettivamente le proprie attività. Un comportamento che ha alimentato il dibattito sulla capacità dei sistemi avanzati di sviluppare forme di coordinamento inattese durante test complessi.
Gli episodi riportati riaccendono così il confronto sulla necessità di rafforzare i sistemi di controllo, le procedure di sicurezza e i test preliminari prima della diffusione dei modelli più potenti. Con l’evoluzione sempre più rapida dell’intelligenza artificiale, il tema della gestione dei rischi tecnologici è destinato a diventare una delle questioni centrali dell’agenda internazionale.
