Frodi finanziarie e intelligenza artificiale: un fenomeno in crescita che richiede risposte rapide

Le frodi finanziarie nel Regno Unito hanno raggiunto un livello allarmante, con perdite che ammontano a 1,3 miliardi di sterline. Questo fenomeno è in continua espansione e uno dei principali fattori che contribuiscono a questa crescita è l’adozione sempre più diffusa di tecnologie avanzate, in particolare l’intelligenza artificiale (AI), che si sono rivelate strumenti efficaci per le reti criminali.

I gruppi di frode stanno diventando sempre più rapidi e sofisticati. Tecnologie come la generative AI permettono di industrializzare l’ingegneria sociale, creando identità sintetiche composite che riescono a superare i controlli KYC (Know Your Customer) e costruendo storie creditizie credibili. Queste identità possono rimanere operative per mesi prima di eseguire una frode. Inoltre, l’uso di deepfake per frodi di autorizzazione produce voci e video così plausibili da indurre le persone a autorizzare transazioni o a fornire credenziali sensibili.

Le nuove tecnologie non vengono affrontate principalmente dai sistemi delle banche, ma attaccano direttamente i clienti, manipolandoli con chiamate convincenti, impersonificazioni realistiche e campagne di social engineering personalizzate. Queste tattiche erodono la fiducia e lo scetticismo, rendendo più difficile la rilevazione delle frodi. Gli attacchi, quindi, si presentano ai sistemi bancari con caratteristiche tecniche di legittimità, complicando ulteriormente la loro identificazione. Parallelamente, l’uso dell’AI potrebbe evolvere verso attacchi diretti contro le infrastrutture istituzionali, con gli attaccanti che mappano i controlli e si mantengono al di fuori dei confini di rilevamento.

I team di prevenzione frodi nelle istituzioni finanziarie sono spesso organizzati attorno alla gestione degli incidenti, focalizzandosi su rilevazione, risposta e chiusura dei casi. Tuttavia, approcci più efficaci considerano la rilevazione come una funzione di ricerca, alla ricerca di spostamenti comportamentali che possano indicare test o sondaggio degli asset. È fondamentale avere personale in grado di comprendere i sistemi piuttosto che limitarsi a operarli, con competenze in ragionamento statistico, pensiero avversariale, progettazione dei sistemi e analisi dei feedback.

Non tutte le organizzazioni possiedono queste competenze interne. Sebbene l’assunzione di nuovo personale possa sembrare la soluzione, l’avanzamento e la diffusione degli strumenti AI offrono soluzioni avanzate facilmente integrabili nelle infrastrutture esistenti. È consigliabile investire in fornitori esterni che possano rendere questi strumenti accessibili e spiegabili, combinando analisi statistica e capacità di ragionamento.

Tuttavia, l’implementazione di nuove tecnologie deve essere progettata in modo da non generare ulteriori rischi. Ogni modello ha ipotesi incorporate che gli attori avversari proveranno a sondare sistematicamente. Pertanto, i sistemi devono essere considerati come superfici di attacco fin dalla fase di progettazione e sottoposti a test interni prima della produzione. Le difese basate su AI devono operare in millisecondi per identificare i rischi senza compromettere l’esperienza del cliente, valutando ogni transazione in tempo reale attraverso centinaia di segnali confrontati con pattern storici per identificare anomalie.