Auf der Jagd nach Deepfakes

An seinen ersten Deepfake erinnert sich der 17-jährige Ismo nicht bewusst. Irgendwann jedoch nahm der Gymnasiast die manipulierten Bilder, Videos und Audionachrichten in seinen Social-Media-Kanälen plötzlich wahr. Der Witz mit Angela Merkel, die sich für erschwingliche Dönerpreise ausspricht, ist nur ein Beispiel. Inzwischen begegnet er solchen Fakes täglich. Teilweise seien sie unterhaltsam, findet er. Doch er bleibt auch kritisch. Angesichts der rapiden technischen Entwicklungen verändere sich einiges und viele Menschen, egal ob jung oder alt, wüssten oftmals nicht genug über Deepfakes und den Umgang mit ihnen.

Mit dieser Einschätzung liegt Ismo richtig. Etwa ein Drittel der Deutschen hat laut einer Bitkom-Studie noch nie von Deepfakes gehört. 81 Prozent der Befragten glauben, Deepfakes nicht erkennen zu können. Die hohe tägliche Internetnutzungsdauer von Jugendlichen verdeutlicht zudem, wie wichtig die Aufklärung über potenziell gefälschte Medieninhalte für die junge Zielgruppe ist: Ein Großteil der 12- bis 19-Jährigen verbringt täglich Zeit am Smartphone (93 Prozent), wobei 88 Prozent von ihnen im Internet surfen. Darüber hinaus gaben 94 Prozent der befragten Jugendlichen an, regelmäßig Whatsapp zu nutzen, gefolgt von Instagram (62 Prozent) und Tiktok (59 Prozent).

Offene Diskussionen führen

„Die Jugendlichen beziehen heutzutage einen hohen Anteil ihres Weltwissens aus den sozialen Medien“, bestätigt Danja Hüttenmüller, Gesamtschullehrerin in Kiel und Studienleiterin am Institut für Qualitätsentwicklung an Schulen in Schleswig-Holstein. Das Bewusstsein für gefälschte Inhalte ist noch nicht bei allen vorhanden. Durch eine offene Diskussion über Fakes in den sozialen Medien und Aufklärung könne man bereits einiges bewirken. Zwar würden heute medienpädagogische Aspekte und der reflektierende Umgang mit Medien an den Schulen thematisiert, doch ein nachhaltiges und kritisches Umdenken im täglichen Umgang mit Medien im Lebensalltag der Kinder und Jugendlichen spiegle sich dabei oft noch unzureichend wider, bemerkt Hüttenmüller.

Um das Interesse ihrer Schülerinnen und Schüler für das Thema zu wecken, entschied sich die Deutschlehrerin im vergangenen Jahr dazu, mit ihren Achtklässlern an einem außerschulischen Workshop zum Thema „Deepfakes“ teilzunehmen. „Ich habe mich auf Empfehlung einiger Kolleginnen und Kollegen sowie eines Fernsehbeitrags dazu entschlossen“, so Hüttenmüller. 

Digital Literacy als Schlüsselkompetenz 

So besuchte sie die Macher des medienpädagogischen „Deepfake-Detectives“-Angebots in einem Coworking Space in der Kieler Innenstadt. Der interaktive Workshop, der sich an Schülerinnen und Schüler der 5. bis 10. Klasse richtet, läuft seit drei Jahren und wurde mehrfach ausgezeichnet. „Nach einem Bericht des NDR über unser Projekt Anfang 2023 wurden wir mit Anfragen förmlich überflutet“, erzählen Michael Dolz und Olaf Kruzycki, zwei der Gründer von Techagogics, dem Start-up hinter dem Workshop. Inzwischen haben über 2.000 Jugendliche den kostenfreien Kurs besucht, der durch Fördermittel des Landes Schleswig-Holstein unterstützt wird.

Die Gründer von Techagogics betrachten Digital Literacy als die zentrale Schlüsselkompetenz der Zukunft und setzen sich für einen emanzipierten Umgang mit neuen, insbesondere KI-Technologien ein. „Die Jugendlichen sind doch die Heavy User von Social-Media und somit besonders anfällig für Manipulationen. Es ist daher wichtig, sie für das Thema zu sensibilisieren und Awareness zu schaffen“, erklärt Dolz.

In dem dreistündigen Kurs stehen neben praktischen Strategien zur Entlarvung von Fakes auch die Kontextualisierung von Deepfake-Beispielen und der Dialog mit den Schülerinnen und Schülern auf dem Programm. „Wir tauschen uns an verschiedenen Stellen des Workshops mit den Jugendlichen über unterschiedliche Aspekte aus. Zum Beispiel darüber, warum manipulierte Inhalte gefährlich sein können und wo die Grenzen solcher Fakes liegen. Gemeinsam möchten wir auch verstehen, wo jeder einzelne Nutzer persönliche Grenzen setzt“, sagt Kruzycki. Ist es etwa in Ordnung, wenn einem berühmten Schauspieler in einem Fake-Video Worte in den Mund gelegt werden, die er niemals geäußert hat? Wenn öffentliche Personen keine Kontrolle mehr darüber haben, was in ihrem Namen an gefälschten Meinungen in die „digitale“ Welt gesetzt wird?

Ausprobieren und neue VR-Technik kennenlernen

Der Workshop beginnt mit einem einstündigen Impuls zur Mediennutzung der Kinder. Fragen, wie „Warum sollte man nicht zu viel Privates posten?“ und „Wie häufig nutzen wir das Handy, ohne es überhaupt zu bemerken?“ werden behandelt. Anschließend lernen die Teilnehmerinnen und Teilnehmer anhand von Bildpaaren, echte Bilder von Fakes zu unterscheiden, und reflektieren darüber, wie die Technik hinter den Deepfakes auch positiv genutzt werden kann. So könnten längst verstorbene Forscherpersönlichkeiten durch ihre Präsenz etwa den Schulunterricht oder auch die pädagogische Arbeit in Museen bereichern. Ein besonderes Highlight ist eine Station mit einem Virtual-Reality-Spiel, in dem die Jugendlichen Deepfakes in einer virtuellen Akademie für Cybersicherheit entschlüsseln können.

Als Fans von Extended Reality haben die Gründer den Workshop mit neuesten Medienangeboten ausgestattet. „Der Einsatz der VR-Brille und das gesamte Ambiente begeistert die Jugendlichen “, sagt Dolz. „So setzen sich die Inhalte wirklich nachhaltig fest“, ergänzt Gemeinschaftsschullehrerin Hüttenmüller.

Auf Augenhöhe austauschen 

Dass die Teilnehmerinnen und Teilnehmer so begeistert von dem Workshop-Angebot sprechen, beruht laut den Initiatoren auch auf ihrer Philosophie der „Aufklärung auf Augenhöhe“, wie Dolz und Kruzycki es nennen. „Auch wir sind nicht perfekt. Ich persönlich benutze zwei Handys und muss mich fragen: Ist das wirklich nötig?“, gesteht Kruzycki. „Außerdem sind wir mit der Lebensrealität der Jugendlichen sehr vertraut. Ich nutze selbst Tiktok und bin informiert, was dort aktuell viral geht. Wenn ich ein oder zwei Beispiele von Deepfakes erwähne, bekommen die Jugendlichen meist große Augen, weil sie solche gefälschten Videos bereits gesehen haben“, so Kruzycki weiter.  

Die Macher des Workshops sind sich sicher, dass der Bedarf an Aufklärung über digitale Kommunikation in den kommenden Jahren weiter zunehmen wird. Sie sehen dabei alle gesellschaftlichen Akteure in der Verantwortung. Für ihren Teil arbeiten sie derzeit an weiteren Konzepten, um diesem Bedarf gerecht zu werden. Dabei streben sie danach, ein Verständnis für die Technologie hinter künstlicher Intelligenz zu vermitteln und das Thema Datafizierung und Datenklau auf die Lebensrealität von Jugendlichen herunterzubrechen.

Und wie sieht es bei Ismo aus? Er ist froh, dass er im vergangenen Jahr zusammen mit seinen Klassenkameraden am Deepfake-Detectives-Workshop teilgenommen hat. „Mir wurde erst dort richtig klar, wie gefährlich diese Fake-Entwicklungen in den sozialen Medien sein können. Was es zum Beispiel bedeutet, wenn einem Politiker eine Meinung in den Mund gelegt wird, die er so nie geäußert hat. Außerdem ist es enorm hilfreich zu wissen, welche Merkmale auf einen gefälschten Post hindeuten.“ Trotz der rasanten Weiterentwicklung der Technologie ist er überzeugt, dass das Grundverständnis für Deepfakes, das er im Workshop erlernt hat, nicht mehr verloren geht.

Über Techagogics

Techagogics kombinieren neueste digitale Technologien mit neuen pädagogischen Angeboten zu immersiven Bildungsformaten auf Augenhöhe. Auf dieser Basis ist der „Deepfake-Detective-Workshop“ entstanden. Der Einsatz unterschiedlichster digitaler und analoger Methoden, die Anknüpfung an die individuellen Lebenswelten der Teilnehmenden und ein Setting, das sich bewusst von der klassischen Unterrichtssituationen abgrenzt, sichern hohe Aufmerksamkeitsraten und hohe Bereitschaft zu aktiver Teilnahme. Das junge Unternehmen wurde 2023 mit dem Hidden Movers Award der Deloitte-Stiftung ausgezeichnet.