Deepfakes er syntetisk medieindhold skabt af avancerede AI-modeller, hvor en persons ansigt, stemme eller bevægelser gengives så realistisk, at det er vanskeligt at skelne fra ægte optagelser. Ordet ‘deepfake’ er en kombination af ‘deep learning’ og ‘fake’, fordi teknologien bygger på dybe neurale netværk, især Generative Adversarial Networks (GANs) og moderne diffusion models. Disse AI-løsninger er trænet på enorme mængder data og kan generere nyt, overbevisende indhold på få sekunder. Deepfakes har to sider: en kreativ og en potentielt skadelig. På den positive side muliggør teknologien helt nye former for visuelt indhold – fra realistiske dubs i film, virtuelle influencers og personaliseret reklame til avancerede træningssimulationer og tilgængelighedsforbedringer. På den negative side kan deepfakes bruges til misinformation, svindel, identitetstyveri, chikane og manipulation af offentlige personer. Den eksplosive udvikling inden for generativ AI har gjort deepfake-teknologi tilgængelig for næsten enhver, hvilket både demokratiserer kreative værktøjer og øger risikoen for misbrug markant. Det gør håndteringen af deepfakes til en vigtig del af moderne AI-strategi og digital sikkerhed.
