Projekt FAKE-ID im Thesenbattle beim Forum Privatheit
Welche Rolle spielt Künstliche Intelligenz bei der Erzeugung und Erkennung verfälschter Bilder und Videos? Diese Fragen wurden intensiv auf der letzten Jahrestagung des Forum Privatheit diskutiert.
Deepfakes sind ein gutes Beispiel für die Ambivalenz von Techniken der Künstlichen Intelligenz (KI). In der Filmbranche werden sie seit Jahren genutzt, um täuschend echte Realitäten zu erschaffen, die uns als Zuschauer*innen in den Bann ziehen und ihren künstlichen Charakter geschickt verbergen. Die gleichen Techniken können aber auch dafür genutzt werden, Desinformationen zu verbreiten und Personen gezielt zu diskreditieren oder gar Straftaten zu begehen. Solche Deepfakes in den sozialen Medien aufzuspüren und zu erkennen, gelingt allein schon aufgrund der immensen Mengen an täglich neu eingestelltem Material, aber auch aufgrund der immer ausgeklügelteren Manipulationsmöglichkeiten wiederum nur mit Hilfe von KI.
Mit diesem Wettbewerb zwischen Deepfake-generierenden und Deepfake-detektieren KI-Systemen befasste sich unter anderem das Thesenbattle "Desinformation und Demokratie", das am 19. November 2021 im Rahmen der Jahrestagung des Forum Privatheit stattfand. An der Diskussion beteiligten sich Prof. Dr. Hartmut Aden (HWR), Anna Louban (HWR) und Dr. Christian Krätzer (OVGU) vom Projekt FAKE-ID, dessen rechtliches Teilprojekt am FÖPS Berlin angesiedelt ist. Für das Projekt brachte Prof. Hartmut Aden folgende These in die Diskussion ein: "Deepfake-Videos führen in politischen Auseinandersetzungen, wie z.B. Wahlkämpfen, zu erheblichen Risiken für die Demokratie. KI-basierte Deepfake-Detektoren können Nutzer*innen bei der Unterscheidung zwischen "echt" und "gefälscht" unterstützen. Welcher Absicherungen es dabei bedarf, wie sich ein Missbrauch automatischer Detektionssysteme vermeiden lässt, welches Material als Deepfake erkannt werden kann (und welches nicht) und wie wichtig dabei auch die interdisziplinäre Perspektive im Umgang mit Deepfakes ist, verdeutlichten Dr. Christian Krätzer und Anna Louban in ihren Statements.
Die Aufzeichnung des Thesenbattles "Desinformation und Demokratie" vom 19.11.2021 können Sie hier auf der Seite des Forum Privatheit anschauen.
Aufzeichnungen und Materialen der gesamten Jahrestagung 2021 des Forum Privatheit finden Sie hier: https://www.forum-privatheit.de/jahreskonferenz-2021/.
Inzwischen ist der Band zur Tagung erschienen, in dem der Beitrag des Projektes FAKE-ID dokumentiert ist: Anna Louban, Milan Tahraoui, Hartmut Aden, Jan Fährmann,Christian Krätzer und Jana Dittmann: Das Phänomen Deepfakes. Künstliche Intelligenz als Element politischer Einflussnahme und Perspektive einer Echtheitsprüfung
in M. Friedewald, A. Roßnagel, J. Heesen, N. Krämer, J. Lamla (Hrsg.), Künstliche Intelligenz, Demokratie und Privatheit (S. 265-287). Baden-Baden: Nomos, abrufbar unter Nomos eLibrary