Abbiamo affrontato più volte l’argomento della cosiddetta intelligenza artificiale, tecnologia utile ma sicuramente ambigua. Oggi affrontiamo il caso dei Deep Fake e dell’app Bikini off, che ha causato diverse problematiche tra i minori. Vediamoli insieme.
Cosa significa Deep Fake?
Con il termine Deep Fake si intende una particolare tecnica di intelligenza artificiale che permette di creare immagini, video e spesso audio, molto simili alla realtà. Questo sistema è capace di mixare informazioni reali per creare un contenuto falso ma altamente verosimile e, spesso, le fotografie deep fake sono capaci di ingannare anche i più esperti.
Il Deep Fake, letteralmente, ruba i connotati e la voce di una persona reale per creare contenuti nuovi che non hanno però riscontro nella realtà. Con questa tecnica si potrebbe facilmente creare il video di un presidente che dichiara guerra ad un altro stato, e tante altre situazioni simili e pericolose.
Le opere create con questa tecnologia vengono chiamate generalmente “falsi digitali”. I falsi digitali hanno chiaramente delle implicazioni legali che non andrebbero sottovalutate. Il Garante della Privacy si è espresso sulla questione elaborando un vademecum che invita a riflettere sulle conseguenze della creazione di queste immagini, tra cui:
- Il Furto d’Identità. Chi viene mostrato in un falso digitale e poi condiviso, non solo perde i diritti e le tutele sulla propria immagine, ma anche sulle proprie parole, sui pensieri. Il falso digitale viene spesso corredato, infatti, da dichiarazioni false che ledono la reputazione della vittima prescelta.
- Le Fake News. Questo è un punto abbastanza scontato perché potrete sicuramente immaginare quante notizie false possono essere condivise attraverso questa tecnologia.
- Il Phishing e le truffe digitali. Non è raro che i deep fake vengano utilizzati per truffare le persone. In quanto esseri umani, tendiamo a fidarci di chi ci sembra familiare senza sapere, in realtà, che quella persona e la sua immagine sono completamente falsi e inesistenti.
- Il Cyberbullismo. I deep fake vengono spesso utilizzati dai più giovani per perseguitare i coetanei, in veri e propri atti di bullismo. I video e le foto create possono essere condivise in rete oppure i protagonisti possono essere ricattati.
- Il Revenge Porn. Gli aspetti più critici della questione sono sicuramente quelli legati al sesso e ai contenuti sensibili. Attraverso la tecnica del Deep Nude è infatti possibile creare immagini di persone senza vestiti, che possono essere utilizzate per atti di revenge porn o pornografia.
- La Pedopornografia. L’ultimo aspetto, forse il più raccapricciante, è quello legato alla pedopornografia e all’utilizzo del deep fake per creare immagini verosimili di minori in situazioni pericolose. Non è necessario andare oltre.
A proposito di Deep Nudes, l’applicazione Bikini Off ne è un esempio lampante. Vediamolo insieme.
Il caso di Bikini Off
Balzata agli onori della cronaca molto recentemente, Bikini Off è un’applicazione collegata a Telegram che, grazie alla tecnologia Deep Fake, permette letteralmente di svestire le persone.
In particolare, basta caricare l’immagine di una qualsiasi persona conosciuta, pubblica o privata, per vedersi restituire in circa 30 secondi un’immagine completamente nuova… senza vestiti.
L’utilizzo di Bikini Off è gratuito per la prima immagine, poi è richiesto un pagamento (spesso in criptovalute).
Tralasciando facili moralismi, sia sulla pericolosità di questi scambi che sul gesto moralmente deprecabile, è necessario analizzare l’impatto che questa app ha sui giovani. In una scuola media di Roma, due quattordicenni sono stati accusati di diffusione e produzione di materiale pedopornografico perché utilizzavano bikini off per “spogliare” le compagne di classe e condividere le immagini con gli altri compagni.
Come sempre, noi di Nemesis vi invitiamo a interrogarvi sull’impatto che queste tecnologie possono avere sui vostri figli e a controllare le loro interazioni online. Proteggere i propri figli da contenuti inadatti o da conseguenze tragiche, non è una violazione della privacy, è una tutela.
Se vi trovate in una posizione critica o temete che i vostri figli possano essere vittime di soprusi (virtuali o reali), rivolgetevi ai nostri professionisti per un consulenza gratuita sulla situazione.