Generatiivisen tekoälyn nopea kehitys on mahdollistanut ihmisten äänen, ulkonäön ja esiintymistyylin jäljentämisen tavalla, joka ei edellytä henkilön omaa osallistumista tai suostumusta. Digitaalisten kaksoisolentojen hyödyntäminen viihteessä, markkinoinnissa, poliittisessa viestinnässä ja sosiaalisessa mediassa on jo arkipäiväistymässä. Samalla oikeudellinen suoja henkilön identiteetin keskeisille piirteille sekä luovan työn käytölle on jäänyt hajanaiseksi ja osin epäselväksi. 

Ilman selkeää sääntelyä näyttelijät, muusikot, poliitikot, uutisankkurit, urheilijat, vaikuttajat ja muut julkisuudessa esiintyvät henkilöt, samoin kuin tavalliset kansalaiset, voivat joutua tilanteeseen, jossa heidän ääntään tai ulkonäköään hyödynnetään kaupallisesti, viihteellisesti tai harhaanjohtavasti ilman lupaa. Tämä voi aiheuttaa merkittävää taloudellista haittaa, mainevahinkoa ja luottamuksen heikentymistä julkiseen keskusteluun. Yksi haitallisimmista ilmiön osa-alueista on seksuaaliset syväväärennökset, joista Yle uutisoi 18.3.2025. Tämä osoittaa, että ilmiössä on kyse haitallisesta jatkumosta, jossa ihmisen ominaisuuksia voidaan hyödyntää niin taloudellisesti kuin — erityisesti naisten osalta — seksuaalisesti. Syväväärennöksiä voidaan käyttää myös demokratiassa haitallisesti esimerkiksi päättäjien mustamaalaamistarkoituksissa. 

Samanaikaisesti tekoälyjärjestelmien kouluttaminen ja sisältöjen tuottaminen perustuu usein laajamittaiseen tekijänoikeudella suojatun materiaalin käyttöön. Luovien alojen toimijat ovat tuoneet esiin huolen siitä, että teoksia voidaan hyödyntää ilman lisensointia, läpinäkyvyyttä tai kohtuullista korvausta. Kysymys ei koske ainoastaan yksittäisiä sopimuksia, vaan koko luovan työn arvonmuodostusta digitaalisessa taloudessa. 

Useissa maissa on ryhdytty tarkastelemaan niin sanottua oikeutta omaan digitaaliseen identiteettiin sekä tekijänoikeuslainsäädännön päivittämistä vastaamaan tekoälyn tuomia muutoksia. Suomessa on tärkeää arvioida, turvaavatko nykyiset säännökset riittävästi yksilön oikeuden määrätä ääntään ja ulkonäköään koskevasta käytöstä sekä tekijöiden mahdollisuudet valvoa teostensa hyödyntämistä tekoälyratkaisuissa.