Defacto: Development of a Falsely Manipulated Content Authenticity System

Die rasante Entwicklung generativer KI ermöglicht die Erstellung täuschend echter Manipulationen wie Deepfakes. Dadurch entstehen erhebliche Risiken für Desinformation, Betrug und Cyberkriminalität. Aktuelle Erkennungsmethoden, die wiederum selbst auf KI basieren, können mit diesen Entwicklungen kaum Schritt halten. Ein zentrales Problem bei der Forschung und Entwicklung solcher Methoden ist die unzureichende Datengrundlage für das Training der Modelle: Oft sind bestehende Datensätze zu klein, veraltet oder nicht vielfältig genug.

Ziel des Projekts „Defacto” ist daher die Entwicklung eines multimodalen, qualitativ hochwertigen Deepfake-Datensatzes. Dieser soll Bild-, Text- und Sprachmanipulationen sowie deren Kombinationen umfassen. Der Datensatz berücksichtigt dabei verschiedene Kontexte wie Social Media und Fake News sowie unterschiedliche Emotionen und Akzente, um reale Szenarien abzubilden. Ergänzend wird eine Generierungspipeline entwickelt, die den Datensatz kontinuierlich mit neuesten Deepfake-Techniken aktualisiert. Damit schafft das Projekt eine zentrale Benchmark-Grundlage, um die Robustheit und Effektivität moderner Erkennungsverfahren entscheidend zu verbessern.

Das Projekt wird in internationaler Kooperation mit Partneruniversitäten aus Südkorea und der Georg-August-Universität Göttingen umgesetzt. Der Schwerpunkt des TMDT liegt auf der Erzeugung von Daten mit Fokus auf Bildern und Videos. Nach einer Analyse aktuell verfügbarer Datensätze werden authentische Bild- und Videomaterialien gesammelt und mithilfe modernster Deep-Learning-Ansätze – darunter GANs und Diffusionsmodelle – systematisch manipuliert und verbessert. Der so entstehende Datensatz dient den Projektpartnern als Grundlage für die Erforschung und Erprobung neuer Detektionsmodelle.

Hier ist ein Beispiel einer Manipulationen eines Bildes mittels Gesichtstausch oder Hintergrund-Veränderung.