MYTHOS, PREOCCUPAZIONE GLOBALE

0:00 / 0:00

TE LO LEGGO IO

Nelle scorse settimane Anthropic annuncia al mondo di aver messo a punto un modello di intelligenza artificiale così potente da essere pericoloso. Troppo pericoloso per essere rilasciato indiscriminatamente.

Nel giro di una quindicina di giorni, il modello, battezzato Mythos, ha provocato, a scala globale, reazioni quasi isteriche, mai registrate prima nella giovane era dell’intelligenza artificiale, perché ha un’abilità unica nel trovare e sfruttare i difetti e le vulnerabilità nascoste nei software. Cosa che per banche, borse, servizi finanziari, reti strategiche, governi del mondo è una catastrofe.

Anthropic ha limitato l’accesso a Mythos a causa dei problemi di sicurezza e protezione che il suo uso, in mani disoneste, comporta. Quindi, il modello viene condiviso con una quarantina di soggetti, guarda caso tutti statunitensi, fornitori dei programmi informatici utilizzati per mantenere le infrastrutture strategiche critiche, che si sono impegnati a contribuire a sviluppare le correzioni per eliminare dai software le vulnerabilità identificate dal modello.

I leader mondiali stanno facendo fatica a realizzare appieno sia quanto Mythos sia in grado di attentare alla sicurezza, sia come cautelarsi. Quanto i ricercatori dell’IA hanno da lungo tempo descritto, per lo più in termini teorici, con Mythos è diventato realtà: chi guida la costruzione dei modelli di IA più potenti consegue vantaggi illimitati.
Di fatto Mythos è, al tavolo dei giochi d’azzardo della geopolitica, una fiche di valore esagerato.
Fiche a stelle e strisce.

I governi non possono più ignorare la questione.
Quello degli Stati Uniti, coinvolto di recente in uno scontro con Anthropic sull’uso bellico dell’intelligenza artificiale, ha dovuto fare una rapida marcia indietro. Nonostante Anthropic sia stato bollato da Trump soggetto non patriottico e non gradito, la settimana scorsa, qualcuno della sua amministrazione ha preso atto delle capacità di Mythos di devastare i sistemi informatici. La Casa Bianca ha quindi convocato per chiarimenti Dario Amodei, ex-Chat GPT e oggi fondatore e amministratore delegato di Anthropic. Incontro che Amodei ha concesso con magnanimità e di certo con gran gusto, affermando poi che l’IA dovrebbe essere usata per difendere gli Stati Uniti e le altre democrazie, nonché per sconfiggere gli avversari autocratici.

Allo stato attuale delle cose, Anthropic non ha definito la tempistica per espandere l’accesso al modello e sta lavorando, con il governo degli Stati Uniti e i partner industriali, per determinare i prossimi passi. Di certo si riserva di valutare il livello di competenza di governi, aziende e altre organizzazioni che l’hanno subissata di richieste per accedere all’uso del modello.
Troppo potente per giocarci, dinamite pura e se si vuole usare la dinamite occorre sapere come maneggiarla perché non ti scoppi in faccia.

Non c’è da stare tranquilli. Dalla settimana scorsa Anthropic sta indagando su un rapporto secondo cui utenti non autorizzati hanno ottenuto l’accesso a una versione di Mythos e ha anche avvertito che nei prossimi 18 mesi si aspetta che i suoi competitori rilasceranno modelli di intelligenza artificiale con funzionalità simili a quelle di Mythos. Non c’è molto tempo per correre ai ripari.

La cooperazione internazionale sull’IA è ai suoi minimi storici. I governi si guardano in cagnesco. Un esperto russo del settore ha definito Mythos “peggio di una bomba nucleare”.
Non esiste però l’equivalente nell’intelligenza artificiale di qualcosa di simile al Trattato di non proliferazione nucleare. Non ci sono regole, o modalità ispettive concordate, su come gestire qualcosa come Mythos, mentre le aziende fanno di tutto per sorpassare i rivali, spesso trascurando i rischi.

Comunque, Anthropic ha deciso di condividere Mythos, al di fuori degli Stati Uniti, solo con la Gran Bretagna.
Lo A.I. Security Institute, organizzazione governativa del Regno Unito, ha testato Mythos e ha pubblicato una valutazione indipendente, confermando che è in grado di effettuare attacchi informatici complessi come nessun precedente modello di IA.
“Questo rappresenta un passo avanti nelle capacità informatiche dell’IA”, ha scritto la scorsa settimana sui social media Kanishka Narayan, sotto-segretario britannico per l’IA e la sicurezza digitale, dicendo che il paese stava prendendo provvedimenti per proteggere “le infrastrutture nazionali critiche”.
Il governatore della Banca d’Inghilterra ha avvertito che Anthropic potrebbe aver trovato il modo per “fare esplodere il rischio informatico a scala mondiale”.

La Commissione europea ha incontrato Anthropic almeno tre volte dal rilascio di Mythos, ma non ha ottenuto accesso al modello perché le parti non hanno concordato come condividerlo. In una dichiarazione, la Commissione ha detto che sta “valutando le possibili implicazioni” di Mythos, che “esibisce capacità informatiche senza precedenti”.
La BCE, banca centrale europea, ha iniziato a chiedere, in modo discreto, alle diverse banche quali siano le loro difese.
Claudia Plattner, presidente dell’agenzia tedesca per la sicurezza informatica, nota come B.S.I., non ha ottenuto di accedere a Mythos, ma ha recentemente incontrato Anthropic a San Francisco per avere “una vista significativa” su come funziona. “Le capacità”, ha dichiarato la Plattner, indicano “un cambiamento di paradigma nella natura delle minacce informatiche”.
Il ministro delle finanze canadese ha paragonato la minaccia generata da Mythos, per le sue implicazioni e portata delle possibili conseguenze per l’economia mondiale, alla chiusura dello Stretto di Hormuz.

Pechino e Mosca tacciono. In Cina, i ricercatori e la più ampia comunità dell’IA studiano con attenzione quanto accade, anche perché molte delle banche, delle società energetiche e delle agenzie governative del paese utilizzano software in cui Mythos ha trovato vulnerabilità.

Mythos è l’ultima, in ordine temporale, evidenza della crescente divisione globale, della profondità del fossato scavato dall’intelligenza artificiale. Le nazioni senza potenti infrastrutture informatiche e validi modelli rischiano di dipendere da aziende come Anthropic, Google e OpenAI, pur avendo influenza scarsa, o nulla, su come i loro prodotti sono progettati, salvaguardati e gestiti.

L’idea che l’accesso all’intelligenza artificiale di frontiera sia qualcosa che un’azienda può limitare unilateralmente, utilizzando criteri opachi e inappellabili, deve essere una vera preoccupazione.

Anzi, non è accettabile.