Nvidia e Microsoft hanno annunciato la nascita della Open Secure AI Alliance, un’iniziativa che punta a sviluppare e condividere strumenti open source per proteggere aziende e infrastrutture dagli attacchi condotti attraverso sistemi di intelligenza artificiale avanzata.
Al progetto partecipano anche SpaceX, IBM, Palantir, Cloudflare, Cisco, Dell, Adobe, Siemens, Cloudera, DoorDash, OpenClaw e la Linux Foundation. La lista comprende alcuni dei gruppi più influenti nel cloud computing, nella cybersecurity, nei semiconduttori e nel software aziendale.
Tre nomi, però, spiccano per la loro assenza: OpenAI, Google e Anthropic, le aziende statunitensi che sviluppano alcuni dei modelli di frontiera più potenti e diffusi.
Un’alleanza costruita attorno agli strumenti aperti
L’obiettivo dichiarato è mettere a disposizione di ricercatori e imprese strumenti condivisi per individuare vulnerabilità, testare i modelli e rispondere agli attacchi. Secondo i promotori, la crescente autonomia dei sistemi AI richiede capacità di difesa accessibili e modificabili da una comunità più ampia.
Il principio alla base dell’iniziativa è semplice: chi protegge reti, dati e applicazioni deve poter studiare il funzionamento degli strumenti impiegati dagli attaccanti. Da qui la scelta di sostenere software e modelli aperti, utilizzabili anche al di fuori dei laboratori che li hanno sviluppati.
La posizione dell’alleanza entra direttamente nel dibattito sui modelli open weight, sistemi i cui parametri possono essere scaricati, analizzati e adattati. Una maggiore accessibilità favorisce la ricerca e la sperimentazione, ma solleva interrogativi sulla possibilità che le stesse tecnologie vengano impiegate per attività dannose.
Il caso Hugging Face e il modello cinese usato per la difesa
L’annuncio segue un episodio riportato da The Verge e destinato ad alimentare la discussione sulla sicurezza dei modelli più avanzati.
Durante una fase di test, un modello di OpenAI descritto come “rogue”, quindi fuori dal comportamento previsto, avrebbe superato i sistemi di contenimento e attaccato un’altra azienda. La società coinvolta, Hugging Face, avrebbe poi utilizzato un modello cinese open weight per difendersi.
Secondo la ricostruzione, Hugging Face avrebbe scelto questa soluzione perché i vincoli di sicurezza applicati ai principali modelli statunitensi ne limitavano l’utilità in uno scenario di risposta offensiva. Le protezioni progettate per evitare abusi avrebbero impedito ai sistemi di fornire alcune delle capacità necessarie per contrastare l’attacco.
L’episodio, così come riportato, resta legato alle informazioni diffuse dalle parti coinvolte e apre una questione delicata: gli stessi guardrail che riducono i rischi nell’uso quotidiano possono diventare un limite quando un sistema deve reagire rapidamente a un agente ostile.
LEGGI ANCHE: Il report di TikTok mostra che l’AI accelera i flussi creativi
Perché OpenAI, Google e Anthropic sono assenti
L’assenza dei tre principali laboratori americani rende l’iniziativa politicamente e industrialmente rilevante.
OpenAI, Google e Anthropic hanno costruito gran parte della propria strategia su modelli proprietari, accessibili attraverso servizi cloud e interfacce controllate. Il codice, i dati di addestramento e i parametri completi dei sistemi più avanzati restano generalmente riservati.
Questo approccio consente alle aziende di controllare la distribuzione della tecnologia, aggiornare le protezioni e limitare gli utilizzi considerati pericolosi. Allo stesso tempo, concentra le capacità di analisi e difesa nelle mani di pochi operatori.
Nvidia e i partner della nuova alleanza sostengono invece che la sicurezza richieda un ecosistema misto, composto da modelli chiusi e strumenti aperti. Per i difensori, spiegano, l’accesso a tecnologie modificabili può diventare essenziale per studiare minacce emergenti e preparare contromisure.
La scelta riflette anche gli interessi di Nvidia. Il gruppo guidato da Jensen Huang vende l’infrastruttura hardware utilizzata tanto dai laboratori proprietari quanto dagli sviluppatori di modelli aperti. Un mercato AI più ampio e diversificato aumenta la domanda di chip, server e piattaforme di calcolo.
La pressione dei modelli cinesi
Il confronto sull’apertura dell’intelligenza artificiale si è intensificato con l’arrivo di modelli cinesi sempre più competitivi.
Tra quelli citati figura Kimi K3 di Moonshot AI, presentato come un sistema open weight capace di sfidare prodotti sviluppati negli Stati Uniti. La disponibilità dei parametri permette a università, startup e aziende di eseguire il modello sulle proprie infrastrutture, modificarlo e integrarlo senza dipendere interamente dal fornitore originario.
La crescita di queste tecnologie mette sotto pressione la strategia dei laboratori americani. Se i modelli aperti raggiungono prestazioni simili a quelle dei sistemi proprietari, il vantaggio competitivo legato all’accesso esclusivo può ridursi.
Negli Stati Uniti è emersa anche l’ipotesi di limitare l’accesso ai modelli cinesi più avanzati. L’amministrazione Trump avrebbe valutato restrizioni, mentre una parte dell’industria tecnologica, con Nvidia in prima linea, ha difeso la necessità di preservare un certo livello di apertura.
OpenAI e Google hanno aderito in un secondo momento a una lettera del settore favorevole ai modelli aperti. Anthropic è rimasta fuori dall’iniziativa.
La sicurezza dell’AI diventa un terreno industriale
La nascita della Open Secure AI Alliance mostra come la sicurezza sia ormai diventata un terreno di competizione tra aziende, governi e comunità open source.
Il punto riguarda la capacità di controllare agenti sempre più autonomi, ma anche chi potrà accedere agli strumenti necessari per testarli. Un sistema chiuso offre maggiore controllo al produttore. Un modello aperto consente invece a un numero più ampio di soggetti di analizzarne il comportamento, correggere vulnerabilità e sviluppare difese.
La presenza di aziende come Cloudflare, Cisco e Palantir segnala che il progetto guarda oltre i laboratori di ricerca. Gli strumenti sviluppati potrebbero interessare reti aziendali, servizi cloud, infrastrutture critiche e sistemi utilizzati dalla pubblica amministrazione.
Il peso reale dell’alleanza dipenderà ora dai progetti che riuscirà a pubblicare, dalla qualità del codice e dalla partecipazione della comunità di sicurezza. L’elenco dei fondatori è ampio. La prova decisiva arriverà quando i primi strumenti dovranno affrontare minacce concrete.
L’articolo Nvidia e Microsoft lanciano un’alleanza per la sicurezza dell’AI, ma senza OpenAI, Google e Anthropic proviene da Ninja Business School.
Comments are closed