AI contro AI: come è cambiato il confronto tra attaccanti e difensori?
AI contro AI: come è cambiato il confronto tra attaccanti e difensori?
Lo scorso Agosto, la piattaforma Microsoft Threat Intelligence ha rilevato una campagna di phishing che sfruttava un account di posta elettronica compromesso di una piccola impresa per distribuire email di phishing malevole finalizzate a rubare le credenziali delle vittime. Nella campagna era stato utilizzato un modello di linguaggio generativo per scrivere e offuscare il codice malevolo, allo scopo di eludere i controlli di sicurezza.
In questo caso, il messaggio di posta utilizzato dagli hacker conteneva un file allegato in formato SVG che sembrava un PDF e reindirizzava gli utenti verso una pagina di login fasulla, creata per rubare le credenziali. Fortunatamente, la piattaforma di supporto basata su AI, Microsoft Security Copilot, ha riconosciuto nel file le caratteristiche di un contenuto generato da un LLM ed è riuscita a bloccare l’attacco prima che avesse un impatto significativo.
Cosa insegna questo episodio?
Da un lato, l’intelligenza artificiale aiuta gli attaccanti poco esperti a creare codici e contenuti malevoli più difficili da intercettare, dall’altro può essere impiegata per costruire nuove barriere difensive contro questi tipi di minacce.
Se l’uso dell’IA da parte dei cyber criminali è destinato ad aumentare esponenzialmente, è essenziale dotarsi di sistemi di sicurezza altrettanto avanzati in grado di individuare e bloccare tempestivamente gli attacchi prima che raggiungano le vittime designate.
-> Leggi l’articolo completo sul sito Cybersecurity360

