Neuigkeit | Forschung aktuell

Projekt FAKE-ID im Thesenbattle beim Forum Privatheit

Welche Rolle spielt Künstliche Intelligenz bei der Erzeugung und Erkennung verfälschter Bilder und Videos? Diese Fragen wurden intensiv auf der letzten Jahrestagung des Forum Privatheit diskutiert.

25.04.2022 — Sven Lüders

Bild der Beteiligten vom Thesenbattle
Miriam Janke, Hartmut Aden (HWR Berlin), Lena Isabell Löber (Universität Kassel) und Stefan Schiffner (Universität Münster) sowie im HG Anna Louban (HWR Berlin) und Christian Krätzer (OVGU) (v.l.n.r.)

Deepfakes sind ein gutes Beispiel für die Ambivalenz von Techniken der Künstlichen Intelligenz (KI). In der Filmbranche werden sie seit Jahren genutzt, um täuschend echte Realitäten zu erschaffen, die uns als Zuschauer*innen in den Bann ziehen und ihren künstlichen Charakter geschickt verbergen. Die gleichen Techniken können aber auch dafür genutzt werden, Desinformationen zu verbreiten und Personen gezielt zu diskreditieren oder gar Straftaten zu begehen. Solche Deepfakes in den sozialen Medien aufzuspüren und zu erkennen, gelingt allein schon aufgrund der immensen Mengen an täglich neu eingestelltem Material, aber auch aufgrund der immer ausgeklügelteren Manipulationsmöglichkeiten wiederum nur mit Hilfe von KI. 
Mit diesem Wettbewerb zwischen Deepfake-generierenden und Deepfake-detektieren KI-Systemen befasste sich unter anderem das Thesenbattle "Desinformation und Demokratie", das am 19. November 2021 im Rahmen der Jahrestagung des Forum Privatheit stattfand. An der Diskussion beteiligten sich Prof. Dr. Hartmut Aden (HWR), Anna Louban (HWR) und Dr. Christian Krätzer (OVGU) vom Projekt FAKE-ID, dessen rechtliches Teilprojekt am FÖPS Berlin angesiedelt ist. Für das Projekt brachte Prof. Hartmut Aden folgende These in die Diskussion ein: "Deepfake-Videos führen in politischen Auseinandersetzungen, wie z.B. Wahlkämpfen, zu erheblichen Risiken für die Demokratie. KI-basierte Deepfake-Detektoren können Nutzer*innen bei der Unterscheidung zwischen "echt" und "gefälscht" unterstützen. Welcher Absicherungen es dabei bedarf, wie sich ein Missbrauch automatischer Detektionssysteme vermeiden lässt, welches Material als Deepfake erkannt werden kann (und welches nicht) und wie wichtig dabei auch die interdisziplinäre Perspektive im Umgang mit Deepfakes ist, verdeutlichten Dr. Christian Krätzer und Anna Louban in ihren Statements.

Die Aufzeichnung des Thesenbattles "Desinformation und Demokratie" vom 19.11.2021 können Sie hier auf der Seite des Forum Privatheit anschauen.

Aufzeichnungen und Materialen der gesamten Jahrestagung 2021 des Forum Privatheit finden Sie hier: https://www.forum-privatheit.de/jahreskonferenz-2021/.