Clonazione vocale con intelligenza artificiale: un nuovo strumento per i truffatori
Blog

Clonazione vocale con intelligenza artificiale: un nuovo strumento per i truffatori

I truffatori hanno un nuovo asso nella manica: strumenti AI di clonazione vocale che consentono loro di sembrare parenti delle vittime in disperato bisogno di aiuto finanziario. Questa tecnologia emergente può simulare la voce di una persona con un semplice frammento di audio, rendendo possibile ai truffatori di clonare la tua voce e farle dire qualsiasi cosa. Le conseguenze possono essere terribili, come hanno imparato a proprie spese alcune famiglie canadesi, perdendo migliaia di dollari a causa di truffatori che utilizzano AI di clonazione vocale.

Come funziona questa tecnologia?

I nuovi strumenti di intelligenza artificiale generativa possono creare ogni genere di output da semplici prompt di testo, inclusi saggi scritti nello stile di un particolare autore, immagini degne di premi d'arte e, con solo un piccolo campione audio, discorsi che suonano come quelli di una persona in particolare. A gennaio, i ricercatori Microsoft ha presentato uno strumento di intelligenza artificiale di conversione testo-voce chiamato VALL-E, che potrebbe simulare la voce di una persona con un campione audio di soli tre secondi. Tuttavia, Microsoft non ha reso pubblico il codice, adducendo come motivazione i potenziali rischi dello strumento in caso di uso improprio, come la falsificazione dell'identificazione vocale o la falsificazione dell'identità di un parlante specifico.

Nonostante i rischi, una tecnologia simile è già in circolazione e i truffatori ne stanno approfittando. Se riescono a trovare 30 secondi della tua voce da qualche parte online, possono clonarla e farle dire qualsiasi cosa. Anche una pagina Facebook o una registrazione di TikTok con 30 secondi della tua voce possono essere sufficienti ai truffatori per clonare la tua voce. Hany Farid, professore di informatica forense presso University of California, Berkeley, ha avvertito che l'intelligenza artificiale per la clonazione della voce è ormai così avanzata che i truffatori non hanno più bisogno di molto audio per clonare la voce di una persona.

Ci sono vittime?

Una famiglia canadese è stata vittima di truffatori che utilizzavano l'intelligenza artificiale per clonare la voce e ha perso migliaia di dollari, ha riferito il Washington Post. Il truffatore si è spacciato per un avvocato che ha detto agli anziani genitori che il loro figlio aveva ucciso un diplomatico americano in un incidente d'auto, era in prigione e aveva bisogno di soldi per le spese legali. Il truffatore ha poi presumibilmente consegnato il telefono al figlio, che ha detto ai genitori che li amava e li apprezzava e che aveva bisogno di soldi. La voce clonata suonava "abbastanza vicina da far credere ai miei genitori che avessero parlato con me", ha detto il figlio, Benjamin Perkin, al Post. I genitori hanno inviato più di $ 15,000 tramite un terminale Bitcoin ai truffatori, non al figlio come pensavano.

VoiceLab

Un'azienda che offre uno strumento vocale AI generativo, ElevenLabs, tweeted che stava assistendo a un numero crescente di casi di uso improprio della clonazione vocale. Il giorno dopo, ha annunciato che la capacità di clonazione vocale non sarebbe più stata disponibile per gli utenti della versione gratuita del suo strumento, VoiceLab. L'azienda ha riconosciuto che la verifica della carta non avrebbe fermato ogni malintenzionato, ma avrebbe reso gli utenti meno anonimi e li avrebbe costretti a pensarci due volte.

Conclusioni

Man mano che l'intelligenza artificiale per la clonazione vocale continua ad avanzare, i rischi di frode vocale e altri tipi di impersonificazione non faranno che aumentare. L'onere ricade su individui e organizzazioni per adottare misure per proteggersi, come abilitare l'autenticazione a due fattori sui propri account ed essere cauti quando si ricevono richieste inaspettate di denaro o informazioni sensibili. Come con qualsiasi nuova tecnologia, è fondamentale rimanere informati e adottare misure per mitigare i rischi.

Qual è la tua reazione?

Eccitato
0
Contento
0
In amore
0
Non sono sicuro
0
Sciocco
0
Megan O'Connor
Megan è un'analista di big data con sede a Dublino. Con una solida esperienza sia nell'analisi dei dati che nell'intelligenza artificiale, è ben equipaggiata per affrontare problemi complessi. Nel tempo libero, le piace viaggiare ed esplorare nuove culture.

    Potrebbero anche interessarti

    Di più in:Blog