Apple ha preso misure contro alcune app che utilizzavano l’intelligenza artificiale generativa per creare immagini di nudità in modo non consensuale partendo da foto di persone ignare di questo utilizzo. Il sito 404 Media ha riportato che Apple ha eliminato alcune app che promettevano di “spogliare” chiunque. Tra i potenziali rischi dell’intelligenza artificiale generativa, vi sono gli utilizzi impropri, incluso il potenziale per spogliare virtualmente le persone e ottenere immagini simili all’originale con la rimozione virtuale degli indumenti, considerando vari aspetti come la scena, la luce, la corporatura, la posa e il colore della pelle.
Secondo quanto riportato da 404 Media, sull’App Store era possibile trovare diverse app in grado di modificare le immagini in modo artificiale e spogliare individui ignari. Alcune di queste app si limitavano al face-swapping, mentre altre erano pubblicizzate come app “Undress” per spogliare virtualmente le persone. Dopo aver ricevuto segnalazioni, Apple ha rimosso le app “incriminate”, una mossa simile è stata effettuata anche da Google, che ha eliminato app simili dal Play Store. È interessante notare che queste app erano pubblicizzate su Instagram e segnalazioni specifiche sono state fatte anche a Meta. Non è chiaro come queste app siano riuscite a superare i controlli di revisione di Apple.
Nel 2020, il Garante della Privacy aveva avviato delle indagini su un bot Telegram in grado di spogliare le persone, usando un particolare tipo di “deep fake” per modificare volti, voci e corpi, creando immagini e video falsi.
