• TWEAK
• Teknologi

Facebooks AI kan afsløre Deepfakes

AI er et fantastisk stykke teknologi, men som så meget andet, kan det også misbruges. Et godt eksempel ville være at bruge det til at skabe deepfakes, hvor AI "misbruges" for at skabe falske fotos eller videoer af mennesker, der er fremstår overbevisende for det utrænede øje. Dette er grunden til, at virksomheder som Adobe har udviklet værktøjer, der kan opdage denne slags forfalskninger.

Læs også: AirPods Max vs AirPods Pro: Hvad skal du vælge?

At registrere et manipuleret foto eller en video viser kun den ene side af sagen. Dette skyldes, at mediefiler deles så let, at det nogle gange kan være svært at tracke det tilbage til kilden, men Facebook mener, at de måske har fundet svaret på udfordringen. Virksomheden har sammen med Michigan State University udviklet en AI, der ikke kun er i stand til at opdage deepfakes, men som kan finde ud af, hvor den kom fra ved brug af såkaldt reverse engineering.

Ifølge forskerne bag opdagelsen “We begin with image attribution and then work on discovering properties of the model that was used to generate the image,” the team continued. “By generalizing image attribution to open-set recognition, we can infer more information about the generative model used to create a deepfake that goes beyond recognizing that it has not been seen before”

Dette fungerer ikke kun på en enkelt deepfake, men det kan også sammenligne og spore ligheder på tværs af en række deepfakes, hvilket betyder, at dette system kan bruges til at spore grupper af manipulerede billeder tilbage til en enkelt generativ kilde, hvilket gør det potentielt lettere at spore koordinerede misinformationskampagner.

Source: Facebook