Solo un paio di giorni fa, Meta ha presentato l’IA di Voicebox, una sorta di equivalente di ChatGPT per il text-to-speech. Sfortunatamente, però, l’azienda di Mark Zuckerberg ha spiegato che non renderà Voicebox disponibile per tutti gli utenti molto presto, al contrario di quanto fatto da OpenAI con ChatGPT. Ma perché?
Secondo Meta, Voicebox è la sua IA più versatile, al punto da surclassare modelli linguistici testuali come ChatGPT e generativi di immagini come Dall-E. Tuttavia, la compagnia di Menlo Park ha anche spiegato che Voicebox potrebbe essere l’IA più pericolosa tra tutte quelle finora messe in circolazione. In una nota sul blog di Meta, infatti, leggiamo che: “ci sono molte possibilità d’uso elettrizzanti per i modelli generativi del parlato, ma a causa dei potenziali rischi in caso di utilizzo scorretto abbiamo deciso di non rendere il modello di Voicebox o il suo codice pubblici, in questo momento”.
Per capire i motivi della mossa di Meta, però, dobbiamo fare un passo indietro. Anzi, due. Il primo ci riporta a inizio marzo, quando l’IA LLaMA di Meta è stata leakata online, con il suo codice sorgente finito su Reddit, 4Chan e, infine, Github. All’epoca dei fatti, Meta è stata accusata da più parti di aver dato il via ad una nuova era delle truffe online, benché involontariamente, perché la sua IA sarebbe stata perfetta per operazioni di phishing e spam “personalizzate”.
Dall’altra parte, bisogna chiarire il funzionamento di Voicebox, che riesce a tradurre in parlato qualsiasi testo che gli venga fornito, utilizzando peraltro un sistema vocale estremamente accurato e “umano” in varie lingue, tra cui inglese, francese, tedesco e spagnolo. Non solo: Voicebox può completare discorsi preregistrati, se gli vengono fornite le giuste informazioni di contesto.
Non è dunque impensabile che l’IA di Meta possa essere utilizzata per la diffusione di fake news ad alto tasso tecnologico, realizzate magari unendo stralci di discorsi di politici e figure pubbliche con parti generate dall’IA sulla base del loro tono di voce e del contesto fornito dai malintenzionati. Anche in questo caso, come per LLaMA, insomma, il tool potrebbe portare a delle raffinate truffe sul web e alla diffusione di disinformazione su una scala senza precedenti: per questo, Meta avrebbe deciso di tenerlo sotto chiave, almeno per ora.
