04.08.2026 - L’ultima parte della serie estiva è dedicata al tema dei video interattivi generati con l’IA che vengono realizzati sulla base di immagini e registrazioni audio esistenti, e agli sviluppi futuri in questo ambito. Grazie all’intelligenza artificiale (IA) è possibile generare rapidamente dei video con l’ausilio di immagini statiche. Per clonare una voce basta attualmente un documento audio di circa dieci secondi.
Ricevete una telefonata con la voce di un parente o di un amico che si trova in difficoltà oppure una chiamata dal vostro capo che vi chiede di effettuare un pagamento urgente con un importo cospicuo. Non si tratta tuttavia né di un amico né del vostro capo, bensì di una voce generata con l’IA. Tutto questo avviene in maniera interattiva e in tempo reale.
Attualmente le segnalazioni giunte all’UFCS che riguardano simili tentativi di truffa sono ancora poche. Si tratta di casi isolati. In futuro la situazione potrebbe però cambiare. Nell’era dei social media il fondo di materiale video da usare come base per i deepfake è pressoché inesauribile. Grazie a tecnologie perfezionate facilmente accessibili che possono essere utilizzate da un numero sempre maggiore di utenti di Internet, questa tendenza potrebbe rafforzarsi ulteriormente in futuro. Tuttavia, non sappiamo dove ci porterà in definitiva questa evoluzione. Anche se in avvenire saranno disponibili tecnologie migliori, queste verranno comunque impiegate dai truffatori soltanto qualora possano essere monetizzate in modo efficace e impiegate nel contesto di modelli fraudolenti funzionanti.
Vi illustriamo in base ai seguenti due fenomeni come evolveranno le forme di truffa in futuro:
Truffa del CEO anche con l’IA
Nel caso della truffa del CEO i collaboratori ricevono, generalmente dal loro capo, l’ordine di effettuare un pagamento urgente all’indirizzo di un presunto fornitore all’estero o di acquistare delle carte regalo. In questi casi viene di norma invocata un’urgenza per evitare che alla vittima venga l’idea di chiedere delucidazioni in merito all’incarico ricevuto. Tipicamente il capo o il presidente non è raggiungibile telefonicamente per eventuali chiarimenti. I truffatori cercano di evitare che i collaboratori contattino il capo. Esistono tuttavia già oggi casi in cui i truffatori pianificano consapevolmente di essere contattati telefonicamente. A tale scopo, nella fase preliminare cercano materiale audio del capo in rete e utilizzano tale materiale per generare una voce clonata. Visto che una voce infonde maggiore fiducia rispetto a un’e-mail, vale la pena sobbarcarsi questo onere. In alcuni casi isolati succede addirittura che un capo clonato partecipi a una videoconferenza per dare maggiore enfasi alla sua richiesta. Per ora si tratta ancora di casi isolati, ma in futuro si prevede un aumento che andrà a colpire soprattutto le aziende che mostrano un atteggiamento aperto con i dati dei collaboratori, e pubblicano per esempio proattivamente anche video personali.
Telefonate shock con voci clonate?
All’UFCS giungono ripetutamente segnalazioni relative a cosiddette telefonate shock. In queste telefonate gli interlocutori si spacciano per agenti o funzionari di polizia e affermano che la figlia o il figlio della persona chiamata abbia causato un grave incidente. A titolo di presunta conferma, la comunicazione viene passata brevemente alla presunta figlia o al presunto figlio che chiedono aiuto con voce eccitata. Molte persone colpite sono convinte di aver riconosciuto effettivamente la voce della loro figlia o del loro figlio. È ipotizzabile che i truffatori impieghino voci clonate con l’ausilio di materiale video accessibile tramite i social media. È però anche possibile che nella situazione di stress le persone colpite abbiano soltanto l’impressione di aver riconosciuto la voce familiare. In questi casi l’UFCS non è in grado di appurare se c’è veramente di mezzo l’IA.
Clonare le voci per mezzo di telefonate mute?
All’UFCS giungono ripetutamente richieste in cui qualcuno desidera sapere se le chiamate da numeri sconosciuti durante le quali non si ode nessuna voce vengano utilizzate per carpire modelli di voce. L’UFCS non è a conoscenza di casi in cui una semplice «Pronto!» o la pronuncia del «nome» siano sufficienti per clonare un’intera voce da utilizzare successivamente a scopo di truffa. La motivazione degli aggressori risiede piuttosto nell’utilizzo di questo metodo per testare in maniera automatizzata se dietro a un numero telefonico ci sia veramente una persona e se questa sia disposta a rispondere a una chiamata da «qualsiasi» numero. Vengono tuttavia segnalati anche casi in cui i truffatori chiamano in precedenza per ottenere un campione di voce. Questi tipi di chiamate sono indirizzati prevalentemente alle aziende. Gli aggressori devono coinvolgere le vittime in una conversazione di una certa durata per poter realizzare un clone con i dati ottenuti. Questo modo di procedere si affermerà per casi isolati, mentre per attacchi su più vasta scala il metodo risulta troppo oneroso, e per i truffatori è più vantaggioso servirsi dei contenuti dei social media liberamente disponibili.
Prospettiva e conclusione
Oggi, nella maggioranza dei casi, i video vengono ancora realizzati sulla base di immagini ferme e non attraverso la modifica di un video esistente. Questo si spiega con la grande quantità di dati che l’IA dovrebbe analizzare. L’onere finanziario e di tempo necessario è ancora troppo elevato. Un’immagine fornisce all’IA un unico punto di riferimento per generare un video, e possono dunque andare persi movimenti specifici degli arti o anche la mimica facciale. Anche la sincronizzazione delle labbra non è ancora perfetta e può essere indizio di una falsificazione. Anche in questo caso ci sarà un’evoluzione che permetterà di realizzare video più realistici con un onere relativamente contenuto.
Al momento l’UFCS non è a conoscenza di un impiego su vasta scala dei tentativi di truffa di questo tipo. Per ora vengono applicati in modo molto mirato poiché attualmente devono ancora essere effettuati manualmente e solitamente sono focalizzati su singoli obiettivi per i quali vale la pena. Secondo lo stato attuale delle cose l’impiego dell’IA generativa per l’elaborazione di video comporta ancora un onere non indifferente. Inoltre, per perpetrare simili varianti di truffa interattive sono sovente necessari modelli più sofisticati, e di riflesso anche più costosi, per cui un impiego su vasta scala permane irrealistico. Le tendenze mostrano tuttavia che anche i modelli più economici stanno diventando più performanti e che c’è quindi da aspettarsi che in futuro questi metodi di attacco saranno impiegati anche sull’intero territorio nazionale.
In avvenire la presunta «autenticità» di un video o di una chiamata vocale di una persona conosciuta non saranno però più sufficienti. Si dovrà prestare maggiore attenzione alla gestualità, alla mimica e ai modi di esprimersi tipici della persona in questione. Pur essendo in grado di generare un’immagine esteriore realistica, i video deepfake presentano sovente modelli comportamentali innaturali della persona ripresa. È dunque determinante non fidarsi esclusivamente della presenza visibile, bensì di analizzare criticamente anche il comportamento della persona.
Raccomandazioni
- Non fidatevi di tutti gli interlocutori telefonici.
- Richiamate il presunto familiare sul numero di chiamata a voi noto.
- Interrompete immediatamente le chiamate che non risultano plausibili.
- Non lasciatevi intimorire o mettere sotto pressione.
- Non rivelate mai password o codici PIN al telefono.
- Non consentite mai a persone estranee di accedere al vostro computer, anche se all’apparenza si mostrano degne di fiducia.
Ulteriori informazioni
Numeri e statistiche attuali
Segnalazioni della scorsa settimana per categoria:
Ultima modifica 04.08.2026
