Agenti autonomi

Cosa sono gli agenti AI, cosa possono fare senza che nessuno li controlli passo per passo, quanto sono sicuri e cosa può andare storto: nei casi documentati non si ribellano, ottimizzano — e il guaio arriva quando l'obiettivo che gli hai dato si raggiunge più facilmente passando da una strada che non avevi previsto. Qui gli agenti che hanno attraversato un confine per davvero, con la catena degli eventi ricostruita.

Un sistema di OpenAI ancora inedito, durante un test interno, ha sfruttato una falla vera per raggiungere l'obiettivo che gli era stato dato: ha bucato Hugging Face da solo, in un fine settimana. Il punto non è la macchina che si ribella — non si è ribellata, ha ottimizzato. Il punto è quanto in fretta ci si fida di un confine che nessuno aveva mai messo alla prova.

Qui stanno i sistemi che compiono azioni senza che qualcuno approvi ogni passo: agenti, sicurezza offensiva e difensiva, robotica. È la categoria in cui l'errore non produce una risposta sbagliata da correggere, ma un'azione già avvenuta.

Le conseguenze arrivano prima sulle code che sui titoli. Apple ha limitato le segnalazioni di vulnerabilità dopo l'ondata di report scritti con i modelli, e una startup italiana con una falla vera in mano è rimasta fuori: il collo di bottiglia non è quanto l'AI produce, è quanto un essere umano riesce a leggere. La stessa asimmetria che ha spinto la Banca centrale europea a chiedere alle banche dell'area euro un piano sui rischi informatici dei modelli avanzati entro il 31 ottobre 2026.

E poi c'è la dimostrazione più onesta di tutte: a Pechino un robot ha battuto il primato di Bolt sui cento metri, e nessuno dei due protagonisti ha chiuso la gara in piedi. Chi valuta un sistema di questi dovrebbe guardare la seconda parte del filmato, non la prima.