Nudify, scatta l'allarme (www.fashionblog.it - X Talk AI Today)
Nudify, l’intelligenza artificiale che è capace di creare immagini esplicite non consensuali di donne e ragazze, sotto accusa.
Il fenomeno dei siti e delle app Nudify, piattaforme che utilizzano l’intelligenza artificiale per creare immagini esplicite non consensuali di donne e ragazze, continua a crescere, alimentando un mercato milionario e sollevando gravi questioni etiche e legali. Nonostante le iniziative di legislatori e aziende tecnologiche, milioni di utenti accedono mensilmente a questi servizi che, secondo recenti indagini, generano profitti che possono superare i 30 milioni di dollari l’anno.
L’espansione dei siti nudify e l’impatto sulle vittime
La diffusione di siti web e app nudify è esplosa a partire dal 2019, basandosi su tecnologie sviluppate inizialmente per i deepfake espliciti. Attraverso l’uso di algoritmi di intelligenza artificiale, queste piattaforme permettono di caricare fotografie e trasformarle in immagini “spoglia” senza il consenso dei soggetti coinvolti. Il risultato non è solo la violazione della privacy, ma anche la creazione di materiale che può configurarsi come abuso e molestie sessuali digitali.
Le conseguenze sono devastanti per le vittime, spesso ragazze adolescenti, le cui foto vengono sottratte dai social media e utilizzate per generare contenuti falsi e umilianti. Questo fenomeno alimenta inoltre una nuova forma di cyberbullismo, che vede i giovani sfruttare queste tecnologie per “spogliare” i propri coetanei, amplificando il disagio psicologico e la difficoltà nel rimuovere tali immagini dal web.
Una recente analisi condotta da Indicator, una pubblicazione specializzata in inganni digitali, ha esaminato 85 siti web nudify scoprendo che la maggior parte di essi si appoggia a servizi di hosting e distribuzione contenuti offerti da colossi come Google, Amazon e Cloudflare. Nel corso degli ultimi sei mesi, le visite complessive a queste piattaforme hanno superato i 18 milioni, con un fatturato stimato fino a 36 milioni di dollari annui.
L’indagine mette in luce come molte grandi aziende tecnologiche forniscano, spesso inconsapevolmente o con ritardi negli interventi, l’infrastruttura necessaria per il funzionamento di queste piattaforme. Amazon Web Services, Google e Cloudflare risultano tra i principali fornitori di servizi per 62 dei 85 siti analizzati. Inoltre, 54 portali utilizzano i sistemi di accesso semplificato di Google per la registrazione degli utenti.
Alexios Mantzarlis, cofondatore di Indicator e ricercatore in sicurezza informatica, definisce questo scenario un “business redditizio” favorito dall’atteggiamento permissivo della Silicon Valley verso l’AI generativa. Mantzarlis sottolinea come le aziende tech avrebbero dovuto interrompere qualsiasi collaborazione con questi portali non appena è divenuto chiaro che il loro scopo principale è la diffusione di molestie sessuali digitali.
I portavoce di Amazon e Google hanno dichiarato di intervenire rapidamente in caso di violazioni dei termini di servizio, invitando gli utenti a segnalare contenuti illeciti. Tuttavia, le azioni risultano ancora insufficienti per fermare la crescita di questo mercato illegale, che nel frattempo evolve le sue strategie per aggirare i controlli, ad esempio usando sistemi di login alternativi come quelli di Apple e Discord.