Negli ultimi decenni l’intelligenza artificiale (AI) ha fatto registrare un vero e proprio boom, trovando applicazione in diversi ambiti come il riconoscimento vocale e le auto a guida autonoma. Ma diverse voci di alto profilo, da Stephen Hawking a Elon Musk e Bill Gates, ci hanno avvertito sui possibili rischi dell’intelligenza artificiale: dal pericolo della “singolarità”, ovvero quando le macchine avranno il pieno controllo sugli umani, ai cyber-attacchi. Uno studio dal titolo “Malicious AI report” vuole mettere in evidenza proprio i pericoli nascosti dell’apprendimento automatico come supporto per i cyber-criminali: un pericolo per la sicurezza digitale che coinvolge non solo la privacy e il furto di dati, ma anche la sicurezza funzionale delle persone nell’ambito di un ecosistema tutto connesso (IoT e IIoT). Lo studio è stato condotto da molti esponenti di varie Università, quali Oxford, Cambridge, Stanford, Yale e Bath.
Indice degli argomenti
AI e security
L’avvento dell’intelligenza artificiale e delle relative tecnologie ha portato ad un nuovo potenziale per la sicurezza informatica, rappresentando, di fatto, un’arma a doppio taglio che potrebbe diventare pericolosa se finisse nelle mani sbagliate. L’importanza di avere una perfetta strategia o soluzione per la sicurezza informatica è cresciuta nel corso degli anni. Tutto il merito va alla proliferazione di dispositivi intelligenti. Inoltre, a causa degli endpoint in crescita che sono sempre connessi all’ecosistema IoT, i criminali informatici ora hanno una pletora di opportunità per infiltrarsi nei dispositivi.
Gli esperti del settore analizzano l’uso massiccio degli algoritmi di machine learning tra hacker e professionisti della sicurezza. Una lotta senza esclusione di colpi che metterà a dura prova le difese aziendali che, opportunamente manipolate, potrebbero anche essere utilizzate per compiere attacchi all’interno del sistema stesso su un target specifico imparando oltretutto dagli errori, diventando, di fatto, un sistema invincibile. La simbiosi con l’automazione per la ricerca di vulnerabilità spingerà i cyber-criminali a velocizzare le operazioni per la messa in opera di virus e la conseguente ricerca di ulteriori debolezze dei sistemi. Ad esempio, i criminali informatici potrebbero utilizzare tali capacità per eseguire la scansione di software per vulnerabilità precedentemente sconosciute, e quindi sfruttarle per scopi illeciti.
L’apprendimento automatico può fornire intuizioni sul comportamento avverso che integra l’intelligenza derivata attraverso altri mezzi. Consente inoltre maggiore agilità e flessibilità, poiché gli strumenti basati su AI sono generalmente più veloci da implementare e più veloci per fornire effetti operativi rispetto ad altri strumenti. Dopo tutto, un sistema di sicurezza intelligente potrebbe superare qualsiasi minaccia sofisticata, ma nello stesso tempo rappresentare un obiettivo di conquista per i prossimi cyber-attack dell’AI.
Privacy e dati
L’intelligenza artificiale è diventata un’industria altamente competitiva che si sta espandendo rapidamente grazie agli investimenti fatti dalle società high-tech e dai governi di tutto il mondo. Una ricerca di Markets and Markets stima una crescita annua media composta (CAGR) di oltre il 60% per i prossimi 4 anni, superando oltre 15 miliardi di dollari di valore. Una crescita forte anche delle innovazioni hardware che hanno incrementato le capacità di calcolo dei computer, permettendo una esecuzione di modelli più complessi attraverso diverse piattaforme GPU e TPU.
La maggior parte delle singole tecnologie di intelligenza artificiale sarà utilizzata per automatizzare varie attività controllate da robot in grado di prendere decisioni critiche che possono avere anche un impatto negativo sull’intero ecosistema digitale. Le macchine intelligenti automatizzate possono valutare gli obiettivi più probabili che possono essere compromessi. Usando tecniche avanzate, l’AI può nascondere “l’infezione informatica” manipolando il sistema e disabilitando i componenti di sicurezza. Non appena i sistemi vengono infettati, possono essere utilizzati per distribuire virus informatici di tutti i tipi, incluse le forme avanzate di ransomware.
Al momento la maggior parte delle organizzazioni cyber-criminali utilizza varie famiglie di ransomware ben conosciute modificando il loro codice sorgente per produrre diversi campioni. In un modo simile, le tecnologie di intelligenza artificiale saranno in grado di creare il proprio malware personalizzato, potenzialmente da zero e implementando algoritmi di apprendimento automatico avanzati. I dispositivi IoT, come i dispositivi medici, saranno molto probabilmente l’obiettivo principale, così come le risorse e i dati dietro di essi.
I casi analizzati dallo studio non si concentrano solo sui cosiddetti virus informatici, ma anche su aspetti legati alla robotica e dronotica. Dai semplici robot impiegati per attività consumer o industriali, passando per i droni e i futuri taxi volanti per uso civile che potrebbero trasformarsi in armi potenzialmente pericolose e vulnerabili a remote manipolazioni. I veicoli a guida autonoma e tutto l’ecosistema smart city potrebbero trasformarsi in un sistema deputato ad interpretare erroneamente dei segnali, alimentando così situazioni di traffico pericolose.
AI Attack
Molti ingegneri e analisti stimano come un prossimo grande attacco supportato dall’AI potrebbe verificarsi nel giro di qualche anno, se non addirittura mesi. La questione più grande rimane il furto dell’identità, gli attacchi denial-of-service e il cracking delle password. Un pericolo decisamente interessante che può causare molti danni sia a livello emotivo che fisico. Attacchi di questo tipo in un mondo sempre più digitale potrebbero ridurre il potere di molte persone ma incidere anche sulle attività amministrative degli enti pubblici. L’AI potrebbe essere da elemento chiave per gli attacchi spear-phishing, raccogliendo ed elaborando database al fine di collegare facilmente le informazioni da diverse fonti e sferrare il miglior attacco. Con l’AI si potrebbe coordinare un certo numero di attacchi tali da confondere i medici nella diagnosi.
L’AI maliziosa può essere utilizzata per coordinare gli attacchi degli hacker in una scala teoricamente non misurabile. Gli esperti di sicurezza ipotizzano che probabilmente il pericolo maggiore potrebbe venire dalla creazione di nuovi campioni di virus da parte dell’intelligenza artificiale sfruttando le enormi capacità di calcolo delle macchine. In base alla progettazione, possono analizzare i punti deboli dei virus attuali e generare forme avanzate. Uno svantaggio iniziale potrebbe essere rappresentato dai costi elevati di computing da sostenere. Ma col passare del tempo, essi diminuiranno inevitabilmente. Molte organizzazioni hanno iniziato a combattere i malware intelligenti artificiali per essere preparati a possibili attacchi futuri, un rischio che gli esperti di cyber-security stanno imparando a conoscere ma che con le potenzialità teoricamente infinite dell’AI diventano complicate da gestire e mettono in serio pericolo la sicurezza informatica.
