Intelligenza artificiale: quando l'apprendimento automatico diventa nemico

In futuro, le tecnologie basate sull'intelligenza artificiale (KI), servono sempre più a combattere le frodi, a valutare ancora meglio i processi aziendali, a ottimizzare le procedure di test e a sviluppare nuove soluzioni per i problemi esistenti.

Quella che sembra una panacea digitale per l'umanità e il suo ciclo economico è in realtà solo una faccia della medaglia. Tuttavia, la crescente digitalizzazione dell'industria, delle infrastrutture critiche e delle applicazioni nel settore privato crea anche nuovi rischi attraverso l'uso dell'intelligenza artificiale.

Il lato oscuro

Aziende che utilizzano l'apprendimento automatico(ML) sono indubbiamente un obiettivo interessante per gli aggressori. Uno scenario ipotizzabile sarebbe quello di penetrare nel sistema con record di dati fittizi, manipolarlo in modo tale che gli algoritmi prendano decisioni sbagliate o paralizzino i sistemi di monitoraggio, ad esempio, e quindi causare danni considerevoli all'azienda.

Il cosiddetto adversarial machine learning, ovvero quando le tecnologie basate su ML vengono modificate per mezzo di input falsi, è un tema caldo soprattutto nel campo della sicurezza informatica. L'intelligenza artificiale suscita desideri e anche i criminali informatici vedono il potenziale di abuso della ML a loro favore. Sono in grado di utilizzarlo per creare e diffondere nuove minacce informatiche o campagne di phishing. Ma possono anche prendere di mira direttamente le loro vittime, attingere a dati preziosi, cercare e sfruttare vulnerabilità zero-day e dirottare infrastrutture quali Botnet abuso.

Gli spammer e Emotet aprono il vaso di Pandora

Il fatto che questi giochi mentali non siano più così lontani dalla realtà è dimostrato in modo impressionante dalle attuali campagne di spam. In questo caso, vengono utilizzati servizi di traduzione basati su ML per ottimizzare i messaggi dal punto di vista linguistico e inviarli ai Paesi più diversi. Anche il downloader attualmente diffuso Emotet abusa delle tecnologie di ML per attaccare gli utenti in modo ancora più mirato.

Nel farlo, aggira abilmente anche le Vasi di miele e i tracker delle botnet. Emotet raccoglie i dati delle sue potenziali vittime e li invia al server C&C dell'aggressore. Sulla base delle informazioni valutate, viene quindi "calcolato" individualmente il carico utile del malware. Inoltre, il malware è in grado di distinguere tra operatori umani e macchine virtuali, utilizzate principalmente dai ricercatori.

La "corsa agli armamenti" continua

L'intelligenza artificiale e l'apprendimento automatico si stanno rivelando un nuovo e redditizio campo di attività non solo per le aziende, ma anche per gli hacker. La gara tra sicurezza informatica e criminali informatici sta quindi entrando in una nuova fase con l'intelligenza artificiale. Senza l'apprendimento automatico, attualmente gli operatori di Emotet non sarebbero nemmeno in grado di implementare meccanismi di autodifesa così costosi ed elaborati in un malware. Sono sempre più consapevoli che l'apprendimento automatico non porta solo vantaggi e che i rischi aumenteranno nel tempo. Per questo motivo, accanto alle tecnologie basate sul ML, esiste una serie di moduli di rilevamento molto efficaci, come il rilevamento del DNA, gli scanner avanzati della memoria, la protezione dagli attacchi di rete e gli scanner UEFI. Solo una protezione a più livelli e il know-how umano possono evitare che la sicurezza informatica non vada da nessuna parte.

Autore: Thomas Uhlemann, specialista della sicurezza, ESET