L'intelligenza artificiale, nonostante i progressi negli ultimi anni, continua a deludere quando si tratta di riconoscere e analizzare il malware. Una ricerca approfondita ha identificato tre ostacoli fondamentali che impediscono ai sistemi automatizzati di raggiungere l'efficacia necessaria nel campo della sicurezza informatica.

Il primo problema riguarda la mole di dati da elaborare. Mentre dataset storici come ImageNet, pilastro del machine learning visivo, occupano circa 17 gigabyte e contengono poco più di un milione di immagini già elaborate, nel settore della sicurezza la situazione è completamente diversa. Un singolo file sospetto può superare facilmente le dimensioni di interi archivi usati in altri ambiti. La ricerca documenta casi estremi in cui un campione di malware raggiunge i 40 gigabyte: gli sviluppatori di codice ostile inseriscono volutamente quantità enormi di dati inutili per rallentare i sistemi di controllo e sabotare gli ambienti sandbox.

La seconda criticità è strutturale: il malware non funziona come il testo o le immagini. I modelli di intelligenza artificiale più sofisticati si basano sulla premessa che le informazioni importanti si trovino vicine tra loro nello spazio dei dati. Nel software compilato accade l'opposto: due istruzioni eseguite una dopo l'altra possono trovarsi a distanze siderali all'interno del file binario, rendendo inutili le strategie di analisi convenzionali. Analizzare un programma eseguibile significa compiere il percorso inverso rispetto alla programmazione: non si tratta semplicemente di riconoscere schemi, ma di ricostruire intenzioni, comportamenti e tecniche partendo dal codice macchina, in uno scenario dove un avversario intenzionalmente nasconde le proprie tracce.

Il terzo ostacolo è il fattore umano degli attaccanti. Gli esperimenti più recenti di Google e Cisco hanno prodotto risultati incoraggianti, con agenti AI che svolgono compiti reali di analisi: tuttavia, in almeno un caso, una squadra di agenti ha impiegato 46 minuti per processare un singolo campione di dimensioni contenute, privo di sofisticate difese. Anche se questo tempo potrebbe ridurre il carico di lavoro degli analisti sommersi da migliaia di alert quotidiani, i dati sui risultati effettivi rimangono deludenti. Uno studio citato dalla ricerca ha rilevato che professionisti della sicurezza coadiuvati da intelligenza artificiale generativa non hanno ottenuto prestazioni migliori rispetto a principianti senza alcun supporto tecnologico, commettendo inoltre errori nel riconoscere i difetti prodotti dai modelli.

Aggravando il quadro, il mondo della cybersicurezza affronta una pressione che altri settori non conoscono: l'avversario evolve. Un sistema di intelligenza artificiale addestrato su minacce dello scorso anno potrebbe semplicemente memorizzare pattern ormai superati, mentre la vera difesa contro attacchi contemporanei richiede dati continuamente aggiornati e consapevolezza del contesto attuale. Inoltre, la condivisione di campioni di malware fra ricercatori è ostacolata da vincoli legali, segreti commerciali e accesso limitato, ulteriormente complicando lo sviluppo di modelli universali e affidabili.