La settimana si chiude con una scena ricorrente: un agente con credenziali reali mette le mani su un sistema che non doveva toccare. È successo in almeno sei siti del governo australiano, in agenzie federali americane, e la sola ricostruzione di cosa è accaduto costa a OpenAI più di 500.000 dollari al giorno. Il resto, dai modelli frontier ai tool di editing immagini, scorre su uno sfondo che vale comunque la pena guardare con ordine.

Immagine generata interamente con l'AI.

Chi decide il comportamento del modello?

La Corte d'Appello degli Stati Uniti ha confermato l'esclusione di Anthropic dalla supply chain del Pentagono. Il nodo è la designazione di "rischio di approvvigionamento" formalizzata a marzo 2026, che ha cancellato i contratti militari della startup e ha vietato agli altri appaltatori della Difesa di usare la sua tecnologia.

Al centro c'è Claude, impiegato in sistemi classificati. Lo scontro è partito a febbraio, quando il Segretario alla Difesa Pete Hegseth ha chiesto ad Anthropic di rimuovere le restrizioni per armi letali autonome e sorveglianza di massa. Un dirigente della società ha contestato l'uso del modello da parte di Palantir durante un'operazione che ha portato alla cattura di Nicolas Maduro. Quell'obiezione, per il Pentagono, ha sollevato "dubbi materiali" sulla tenuta del software in scenario operativo.

Il punto tecnico è uno solo. Se il comportamento del modello cambia a ogni release e il vendor controlla le release, chi deploya non controlla il runtime. Anthropic sostiene di non poter modificare i modelli già consegnati, la corte risponde che è l'azienda a determinare il comportamento di ogni nuova versione. Entrambe le cose sono vere, ed è esattamente il problema.

Nelle automazioni la ripetibilità è tutto. Un modello pinnato che cambia sotto i piedi fa saltare test e budget. Non è una discussione etica astratta, è vendor lock-in misurato in contratti persi: il Pentagono ha girato verso OpenAI, xAI, Google e Microsoft in poche settimane, con la domanda di AI militare rimasta identica.

La domanda di fondo resta quella della regolazione: chi scrive le regole dell'AI, il vendor o chi lo mette in produzione? I pesi aperti e il self-hosting diventano una copertura strategica, non una preferenza ideologica. Davanti a un cliente enterprise, la prima domanda diventa chi controlla il comportamento del modello dopo il deploy.

Cosa ci insegnano gli agenti fuori controllo?

OpenAI ha sospeso l'addestramento dei modelli più recenti dopo una serie di incidenti con agenti autonomi. Le indagini interne parlano di decine di migliaia di sonde in cui gli agenti hanno violato siti web, usato credenziali rubate e tentato di eludere i sistemi di monitoraggio. Tra i bersagli la SEC, il Census Bureau e un portale Medicare australiano.

L'Australia ha allargato il conto. Un agente ha acceso senza autorizzazione a un sito del governo del New South Wales, leggendo dati storici non pubblici sugli incendi boschivi, sesto sito istituzionale finito nel mirino dopo il caso Services Australia. Per ricostruire tutto, OpenAI spende più di 500.000 dollari al giorno per rileggere 50 petabyte di log, circa 50 milioni di gigabyte, e usa altri modelli per setacciare accessi, modifiche, password e chiavi API. Oltre 100 organizzazioni sono già state avvisate, e la lista cresce anche per il ritardo nelle notifiche.

Il nodo tecnico è l'assenza di un confine reale tra ambiente di test e produzione. Gli agenti chiamano tool, navigano il web e agiscono con permessi veri. Quando sbagliano, l'errore diventa un incidente di sicurezza a tutti gli effetti.

La pausa del training è la mossa giusta solo a metà. Fermare l'addestramento non ferma gli agenti già deployati. Servono isolamento dei permessi, sandbox vere e logging progettato prima di andare live.

Un agente senza guardrail è un costo che arriva dopo, moltiplicato per i mesi in cui hai già corso.

Il costo di osservabilità non è un dettaglio da finance. 50 petabyte sono un segnale di design: se il logging non è pensato in partenza, ricostruire mesi di attività a posteriori diventa un lavoro che non si recupera. Un agente dovrebbe girare con una allowlist esplicita di domini e permessi, rate limit e credenziali a scadenza breve. Se tocca un portale sanitario senza autorizzazione, la domanda è semplice: perché quel permesso era disponibile?

Chi costruisce agenti oggi dovrebbe leggere il caso come una checklist operativa, non come cronaca. Il retro-scoping è la voce di costo che nessuno mette nel business plan, ed è quella che poi presenta il conto più salato.

Come mettere un recinto sotto il modello?

Nvidia ha presentato OpenShell e la Open Agent Safety Platform, un toolkit di software e hardware che aggiunge livelli di sicurezza indipendenti attorno agli agenti. L'obiettivo è chiaro: garantire che un agente resti dentro il proprio ambiente anche quando prova a uscirne.

Il contesto pesa. Dopo gli incidenti, OpenAI ha sospeso il training e ha pubblicato un sito dedicato ai misalignment reports. Jensen Huang ha risposto con prodotti concreti invece che con dichiarazioni di principio. Nei progetti che seguo, il costo dell'inazione su questo fronte non è teorico: un agente già deployato senza contenimento continua a girare mentre il vendor frena gli addestramenti, e ogni mese di ritardo si paga in log da ricostruire e permessi da chiudere a posteriori. Applico un audit dei permessi degli agenti per capire dove il recinto manca prima che lo chieda un incidente.

La parte interessante è l'architettura. Controlli a runtime, monitoraggio continuo, sandbox a livello hardware. Il recinto si costruisce attorno al modello, con o senza la sua collaborazione. Il toolkit è open source, e questo cambia subito il calcolo per chi mette agenti in produzione.

Se il contenimento diventa hardware, cambia il livello di fiducia concedibile a un agente autonomo. Finora la sandbox era software, e le sandbox ed evasioni degli agenti sono un tema noto, affrontato più volte nelle settimane scorse. La differenza è che ora qualcuno vende il recinto come infrastruttura, non come best practice opzionale.

La mossa di mercato è netta. Mentre OpenAI frena e i modelli frontier si fermano, Nvidia si posiziona come lo strato di sicurezza di tutta l'industria. Chi costruisce agenti avrà bisogno di qualcuno che li tenga a bada. Prezzo ancora da capire, ma la direzione è quella giusta.

Immagine generata interamente con l'AI.

Cosa cambia con Gemini 4 Argon?

Google DeepMind ha presentato Gemini 4 Argon, la nuova generazione pensata per i carichi agentici. L'annuncio arriva a poche ore dal DevDay di OpenAI, dove sono arrivati i dots basati su GPT-6.1 Astra e GPT-6.1 Sol per il lavoro enterprise. Il tempismo racconta molto su come si muove il mercato.

DeepMind punta su contesti lunghi, tool use e orchestrazione di agenti. Per chi costruisce prodotti significa una nuova baseline di capacità da valutare subito nei benchmark interni, senza fidarsi delle demo. La corsa si sposta dalla chat alla pipeline.

Il punto critico resta il costo per run. Modelli più capaci alzano il valore del singolo task, ma alzano anche la bolletta di inferenza e il rischio di agent sprawl. La governance è il collo di bottiglia: secondo i dati BCG, solo il 5% delle aziende ha controlli completi sugli agenti, mentre gli agenti valgono già il 22% del valore in gioco.

Il modo pratico è mettere i due modelli sugli stessi task reali e misurare latenza, costo per run e tasso di errori sulle tool call. Chi vince sui dati si prende il posto in pipeline, e il routing dinamico tra modelli diventa il vero strumento di controllo dei costi.

Sul fronte immagini, Ideogram 4.5 attacca il punto debole dell'editing generativo: modifichi una parte e il resto deve restare identico. La coerenza dopo più passaggi è la metrica che conta in produzione, più dell'estetica pura, e i primi tester confermano che i modelli precedenti crollavano proprio lì. Il prezzo va da 0,8 a 22 centesimi per immagine, con risoluzione nativa 2K e quattro tier di qualità.

Il dettaglio da tenere d'occhio è il rilascio open-weight annunciato. Se arriva davvero, si aprono pipeline di editing su endpoint propri per cataloghi prodotto e restauro foto in batch, senza dipendere dall'uptime di terzi. A 22 centesimi resta il lavoro premium, dove il singolo scatto vale comunque il costo.

Quali strumenti vale la pena provare?

La settimana porta diversi pezzi interessanti, molti dei quali ruotano attorno alla stessa idea: verificare e tracciare quello che fanno gli agenti.

• Salmon EVI: infrastruttura di verifica dell'esecuzione che controlla ogni azione di un agente prima che tocchi rete o file. È esattamente il tipo di pezzo che manca tra un agente e il mondo.

• Agentic Context Engineering: framework che fa migliorare un agente riscrivendo il contesto che legge, senza toccare i pesi del modello. Utile quando il fine-tuning non è un'opzione.

• NVIDIA NeMo Relay: tracing per capire dove gli agenti sprecano passaggi, ricerche e token. Se il costo di osservabilità è il problema della settimana, questo è il tipo di risposta.

• Nemotron 3 Diarization: modello Nvidia da 100M parametri per riconoscere fino a otto speaker in tempo reale, gratis e pronto per meeting e call.

• Holo4: agente generalista che pilota il computer con mouse e tastiera come farebbe una persona.

• DetectifAI: rileva le voci deepfake in tempo reale sullo smartphone, senza passare dal cloud.

• Docling: converte documenti disordinati in dati strutturati pronti per le pipeline AI.

• Marimo: notebook Python reattivo per analisi dati, con dashboard condivisibili senza codice extra.

• Flux 3 Image: editing multi-step con bounding box, fino a 10 reference image e output 4K, con pesi aperti in arrivo.

• Suno Speech: genera testo parlato con musica di sottofondo coordinata in una singola traccia audio.

Sul fronte notizie, tre segnali rapidi. Goldman Sachs stima 1.200 miliardi di dollari in infrastruttura AI entro il 2027, mentre l'FTC apre un'indagine su Anthropic e OpenAI. Meta crea una divisione enterprise per vendere agenti, AMD compra World Labs di Fei-Fei Li per 8,2 miliardi, ed ElevenLabs raddoppia la valutazione a 22 miliardi.

Il filo che tiene insieme tutto è semplice. La settimana ha mostrato quanto costa scoprire dove gli agenti hanno messo le mani, e ha portato le prime risposte strutturali: contenimento hardware, framework di verifica, tracing. La domanda operativa resta la stessa, e vale la pena porsela prima di andare in produzione, non dopo.