ROMA – “Ogni volta che una tecnologia di frontiera emerge in modo dirompente, i domini della sicurezza cibernetica sono tenuti a dimostrare e a mantenere una sorta di strabismo: da una parte devono proteggere intrinsecamente questa nuova tecnologia, dall’altra devono avvalersene per assolvere il proprio mandato, quindi proteggere le infrastrutture critiche, i sistemi di controllo industriale e il patrimonio informativo”.
Lo ha spiegato all’agenzia Dire il dottor Marco Molinaro, responsabile Cybersecurity Accenture per Italia Centro Europa e Grecia, a margine della V edizione dell’Innovation Cybersecurity Summit, organizzato a Roma dall’Associazione nazionale giovani innovatori (Angi) presso l’Aula Magna di UniMarconi, in partnership con Alé Comunicazione, Associso-Associazione Nazionale Chief Information Security Officer, l’Università degli Studi Guglielmo Marconi e gli Uffici del Parlamento Europeo in Italia.
“Oggi- ha proseguito- la tecnologia emergente e con più alto potenziale è senza dubbio l’Intelligenza artificiale generativa. Parliamo di modelli di linguaggio basati su reti neurali ad apprendimento profondo. È importante concentrarsi su entrambi gli aspetti: da una parte proteggere la progettazione e la realizzazione di questi modelli e, dall’altra, avvalersene adeguatamente”.
“Per proteggersene- ha sottolineato Molinaro- siamo tenuti ad addestrarli adeguatamente, perché più che nei modelli il valore è nella fase di addestramento, oltre che nella capacità computazionale. E, conseguentemente, l’addestramento deve basarsi su politiche che adottino dati di valore coerenti e consistenti per evitare aberrazioni e, in qualche forma, per evitare allucinazioni. Dall’altra, dati di una qualità e di una coerenza che evitino di essere avvelenati per poi generare pregiudizio”.
“Invece- ha affermato il responsabile Cybersecurity Accenture per Italia Centro Europa e Grecia- nella fase più attuativa, quando ne siamo tutti fruitori, è opportuno che i controlli si spostino a monte e a valle, nella fattispecie quando vengono invocati questi modelli di Intelligenza artificiale e quando poi producono una risposta. Questo, sostanzialmente, comporta applicare dei filtri di validazione dell’input a tutte le richieste che interpellano il modello e, ottenuta la risposta, validarla e far sì che non possa produrre impatti e danneggiare il patrimonio informativo con sistemi di controllo industriale. Queste sono le attenzioni massime sul fronte dell’alta innovazione su cui gli esperti di sicurezza si stanno concentrando”.
“L’addestramento- ha poi informato Marco Molinaro- consiste in varie fasi, chiamate ‘epoche’, nelle quali, sostanzialmente, dei modelli preimpostati acquisiscono informazione, che è conoscenza, e, di fatto, costruiscono il modello cognitivo dell’Intelligenza artificiale generativa. Queste informazioni non sono altro che telemetrie, dati, che ovviamente hanno un valore. E ne servono in quantità smisurata, altrimenti i modelli non sono efficaci. È un lavoro estremamente complesso”.
“Partire da un modello vuoto- ha inoltre dichiarato- richiede tanto impegno, tante risorse economiche, tanta capacità computazionale, tanta informazione e tanti dati. Questo è il motivo per il quale si tende a partire da modelli aperti, che hanno già una conoscenza di base, e ad evolverli con successive epoche di addestramento, per recuperare quel divario di sovranità, perché qualcuno c’è arrivato prima e porta con sè questa proprietà intellettuale”.
“Non momento in cui avviene questa forma di personalizzazione- ha concluso- il modello diviene in qualche modo proprietà di chi l’aveva iniziato a personalizzare, matematicamente spostando i pesi all’interno di quello che, alla fine, è un algoritmo estremamente complesso che non siamo in grado di scrivere”.
Le notizie del sito Dire sono utilizzabili e riproducibili, a condizione di citare espressamente la fonte Agenzia DIRE e l’indirizzo https://www.dire.it