Olga Loiek è una giovane youtuber ucraina che si occupa di temi legati alla salute mentale. E che, fino a pochi mesi fa, non sapeva di avere delle sosia digitali. Com'è possibile tutto ciò? La risposta è l’intelligenza artificiale generativa, la tecnologia alla base del deepfake.
La scoperta choc
Tutto è iniziato quando, dopo aver aperto il suo canale YouTube, Olga ha iniziato a ricevere strani commenti in cui gli utenti affermavano di averla già vista sui media cinesi. Una serie di ricerche in Rete le hanno fatto scoprire che esistevano diversi profili social con centinaia di migliaia di follower che utilizzavano la sua immagine e nomi diversi (Anna, Grace e Natasha). Si trattava di cloni digitali creati dall’AI senza il suo consenso, che si spacciavano per ragazze russe in grado di parlare mandarino fluente, innamorate della Cina e desiderose di sposare un uomo del posto. In alcuni casi, gli avatar trattavano anche delicati questioni geopolitiche, come i rapporti tra Russia e Cina, esprimendo opinioni favorevoli a Pechino. Olga, esterrefatta, ha denunciato il furto della sua identità e ha chiesto aiuto ai suoi follower.
La piattaforma dei deepfake
Gli avatar in questione sono stati creati con HeyGen, piattaforma statunitense specializzata nella creazione di deepfake, che tra le altre cose offre la possibilità di generare avatar personalizzati basati su foto, video o audio caricati dagli utenti (ma anche tradurre simultaneamente interi video in lingue straniere diverse). Le sue policy, però, vietano l'utilizzo di immagini o informazioni di persone reali senza il loro consenso esplicito. Nel caso di Olga e dei suoi fake, è dunque evidente che qualcuno sia riuscito a eludere il regolamento sfruttando la sua immagine per la creazione di falsi influencer. Non si tratta neanche di un caso isolato: altri youtuber stranieri hanno scoperto di avere dei doppi digitali sui social media, generati attraverso diverse piattaforme, alcuni dei quali diffondevano propaganda o disinformazione.
La sfida della regolamentazione
Il fenomeno dei deepfake solleva da tempo una serie infinite di preoccupazioni etiche e legali, in quanto, se utilizzato in modo illecito, viola il diritto all’immagine, alla privacy e alla reputazione delle persone coinvolte, minando oltretutto la fiducia nell’informazione e influenzando l’opinione pubblica su temi sensibili. Sono diversi i Paesi (come Stati Uniti, Regno Unito e Cina) che stanno cercando di regolamentare l’uso dell’intelligenza artificiale generativa e sviluppare metodi per riconoscere e contrastare i deepfake. Anche alcuni colossi del tech, come ad esempio Meta, hanno avviato iniziative per promuovere l’uso responsabile e trasparente dell’AI.
Anche in Unione Europea si parla da anni di un Artificial Intelligence Act, la prima legislazione al mondo orizzontale e ad ampio respiro sull’intelligenza artificiale. Il testo, che ha da poco ricevuto il via libera degli Stati membri e punta ad assicurare che i sistemi di AI immessi sul mercato europeo siano sicuri e rispettino i suoi diritti e valori, potrebbe essere approvato in via definitiva alla fine di aprile.
Tornando alla storia che vi abbiamo raccontato, rimbalzata su numerosi media internazionali, Olga non avrebbe alcuna intenzione di lasciare YouTube o smettere di postare contenuti. Una cosa è certa: “Abbiamo bisogno di una sorta di quadro normativo, in modo da poter capire e prevenire che queste cose accadano”, ha dichiarato lei stessa in un video.
