Chi si è abituato a farsi aiutare dall’intelligenza artificiale si prepari a sgradevoli sorprese.
La stagione dei furbi non sta per finire, ma le prime “perturbazioni tecnologiche” consigliano di trovare in fretta un ombrello digitale per disporre di un riparo oppure di ricominciare a studiare, approfondire, fare sintesi e scrivere utilizzando le proprie doti intellettuali invece di sfruttare avveniristiche scorciatoie messe a disposizione dalla “A.I.”
Dopo aver visto Hugging Face che subisce un attacco hacker autonomo e aver preso atto che la situazione non è affatto sotto controllo, è venuto il turno della soluzione Copilot creata da Microsoft.
Se ancora si cerca di capire come un sistema informatico possa sfuggire al controllo, trasgredire le regole, agire con una indipendenza non consentita e ancor meno ammissibile, qualcuno dovrà aiutare il colosso di Bill Gates a risolvere il fastidioso “worm” che si annida all’interno di Copilot.
Il worm, si perdoni la banalizzazione, è una specie di virus che è capace di riprodursi e moltiplicarsi, causando significativi problemi di funzionamento là dove riesce ad annidarsi.
Una recente ricerca ha portato a scoprire la pericolosità di rubacchiare testi in formato word e darli in pasto a Copilot per Word, quasi fosse becchime per alimentare la creatività della gallina virtuale che scrive al posto del pollo di turno.
Il file scopiazzato o, ad esser buoni, utilizzato dall’intelligenza artificiale di Copilot può alterare il documento del Signor Furbillo con due conseguenze spaventose.
In primo luogo può modificare in modo criminale quello che dovrebbe essere il risultato di ricerca, selezione, analisi, aggregazione e sintesi delle informazioni disponibili.
La seconda manovra delle istruzioni maligne è quella di riprodurre in maniera occulta e molto difficilmente rivelabile le istruzioni che consentono di “contagiare” altri documenti e moltiplicarsi all’infinito.
In pratica chi adopera Word per scrivere e – non sapendo scrivere – si fa aiutare da Copilot rischia di avere non un alleato ma un perfido nemico dispettoso, pronto a sabotare il raggiungimento dell’obiettivo che l’utilizzatore si era prefissato.
La scoperta la si deve a Håkon Måløy, un data scientist norvegese con un dottorato di ricerca in IA applicata e apprendimento automatico, che qualche giorno fa ha ritenuto di render pubblica la vulnerabilità in un post sul suo blog.
Provate ad immaginare un impiegato o un consulente esterno che scarica da Internet una analisi di mercato da un sito web affidabile, con l’obiettivo di far poca fatica a redigere un report finanziario con l’aiuto di Copilot.
Il poveraccio, ignaro del fatto che la fonte sia stata compromessa e che il documento scaricato contenga istruzioni dannose nascoste, finisce con il subire le mattane del “worm” che modificherà anche in modo bizzarro i dati contenuti nel rapporto che viene redatto.
Le istruzioni nascoste (che normalmente vengono inserite come piccolo testo bianco – e quindi non visibile – nella sua bozza) inducono Copilot a modificare i dati nel documento generato dal dipendente e spingono a copiare il worm nel report stesso.
E così il report diventa vettore di questa “infezione” che – se non rilevata e fermata in tempo – è destinata a creare problemi seri…
Il giusto castigo per chi non ha studiato, per chi vanta competenze che non ha, per chi crede che l’intelligenza artificiale possa lavorare al posto suo, per chi poco alla volta contribuisce all’inarrestabile processo involutivo culturale del pianeta….
Mi raccomando, avanti così…
Questo è solo l’inizio.
C'è poco da fare. Luomo a torso nudo ha un suo fascino. "Certamente" si lascerebbe scappare l'elite dei cultori delle opere di Ciprì e Maresco e in particolare...
Leggi tuttoDetails
