Large Language Model e sicurezza informatica: le sfide
I Large Language Model possono favorire la sicurezza dei sistemi basati su cloud, ma possono anche rivelarsi molto pericolosi. Ne ha scritto in un articolo Tristano Ermini, Manager, Systems Engineering di Palo Alto Networks.
Un modello linguistico di grandi dimensioni (LLM) è un programma di intelligenza artificiale progettato per comprendere il linguaggio umano e generare contenuti in linea con questo.
Viene addestrato su grandi quantità di dati testuali provenienti da Internet, imparando grammatica, eventi e processi di ragionamento, ed è in grado di rispondere a domande, generare testi e persino sostenere una conversazione con gli utenti.
Esempi di LLM sono ChatGPT di OpenAI, Bard di Google e il motore di ricerca Bing di Microsoft.
Large Language Model e sicurezza cloud
Nella sua analisi, Ermini si sofferma sul rapporto diretto tra LLM e cloud, per quanto riguarda la sicurezza di quest’ultimo.
L’AI generativa, ad esempio, è già stata utilizzata per verificare codice sorgente e sviluppare nuovo codice per migliorarlo oppure per attaccarlo sfruttandone le vurnerabilità.
Sappiamo anche che alcuni gruppi di cybercriminali creano script di attacco tramite ChatGPT.
Ecco quindi che i LLM possono essere usati in due modi: come strumento difensivo oppure come arma.
Il rilevamento delle minacce e l'incident response possono essere automatizzati. La comprensione del linguaggio naturale, sommato alla Precision AI, consente di identificare potenziali minacce nascoste in grandi volumi di dati e modelli di comportamento degli utenti.
Imparando da nuovi dati, si può rispondere alle minacce emergenti e fornire informazioni sui rischi in tempo reale. Migliorando anche i tempi di reazione agli incidenti di sicurezza.
Si può anche migliorare la conformità alla sicurezza. La normativa emerge continuamente e le aziende devono adattarsi a standard e requisiti di sicurezza. E gli LLM permettono di analizzarli e interpretarli per individuare rapidamente le azioni da implementare.
Questo faciliterà la vita dei team di sicurezza, consentendo loro di concentrarsi su altre attività fondamentali. Un aspetto particolarmente importante per le aziende bancarie.
Prevenire gli attacchi. Social engineering, phishing e pretexting sono minacce diffuse alla sicurezza cloud, i modelli LLM possono analizzare i modelli di comunicazione e identificare i rischi. I tentativi possono così essere intercettati e gestiti proattivamente.
Rispondere meglio agli incidenti. L’incident response richiede efficacia dei processi di comunicazione. Gli LLM possono generare report accurati e tempestivi, rendendo più facile per i team di sicurezza comprendere la natura dell’incidente e coordinare le attività di risposta.
E possono anche supportare le comunicazioni ufficiali agli stakeholder.