KMK-Präsidentin: Schulen müssen das Fälschen von Medieninhalten durch KI thematisieren

Saarbrücken. Der mögliche Einsatz von Künstlicher Intelligenz für das Fälschen von Fotos, Videos und Tonaufnahmen muss laut Christine Streichert-Clivot (SPD), Präsidentin der Kultusministerkonferenz (KMK), auch in Schulen thematisiert werden. Die  Bildungsministerin des Saarlands betonte gegenüber der Deutschen Presse-Agentur, dass es wichtig sei, Schüler:innen für die potenziellen Schäden durch den unreflektierten Einsatz von KI zu sensibilisieren: “Es sind Themen, für die man sich an Schulen definitiv Zeit nehmen muss, um Schüler in der Anwendung auch zu sensibilisieren, damit ihnen klar ist, was man dort für Schaden anrichten kann, wenn man es unreflektiert zum Einsatz bringt.“

Da KI-Anwendungen zur Fälschung von Medieninhalten so einfach zu bedienen sind, dass sie von Laien genutzt werden können, ist es laut Streichert-Clivot notwendig, dieses Thema in den Schulen stärker zu behandeln. KI ermöglicht es, Bilder, Videos und Tonaufnahmen so realistisch zu fälschen, dass es immer schwieriger wird, zwischen Wahrheit und Fälschung zu unterscheiden, so können durch KI diffamierende Inhalte wie zum Beispiel gefälschte Nacktbilder, Sprachnachrichten oder Videos erstellt und verbreitet werden.

Im Saarland werden diese Themen im Informatikunterricht ab der 7. Klasse behandelt. Obwohl es derzeit keine bekannten Fälle von Mobbing durch KI an saarländischen Schulen gibt, wird die Situation aufmerksam beobachtet. “Wir beobachten sehr genau, was sich dort tut”, sagt die Bildungsministerin. Auch in anderen Bundesländern wird Medienbildung intensiv gefördert. Die Herausforderung bestehe darin, dass Lehrkräfte oft keinen Einblick haben, ob und wo digitales Mobbing stattfindet. Lehrer:innen können zwar Anzeichen erkennen, wenn es Schüler:innen schlecht geht, aber die Betroffenen seien, aber nicht immer dazu bereit, darüber zu sprechen.

In Whatsapp-Gruppen wird viel Bildmaterial geteilt. “Und das wird auch, wenn nicht schon jetzt, auch in Zukunft definitiv Bildmaterial sein, das auch mit KI erstellt worden ist”, so Streichert-Clivot. Dies betreffe außerdem nicht nur Schüler:innen, sondern auch Lehrkräfte. Eltern wird geraten, im Gespräch mit ihren Kindern zu bleiben und strafrechtlich relevante Inhalte wie ausländerfeindliche, antisemitische, sexistische oder kinderpornografische Materialien zur Anzeige zu bringen.

Auch die Informations- und Bildungsplattform “Schau Hin!” warnte bereits im vergangenen Jahr vor Cybermobbing mit Hilfe von KI. “Viele KI-Anwendungen vereinfachen die Erstellung von Fotomontagen, bei denen das Bild einer Person in andere Kontexte gesetzt oder verfremdet wird, um sie zu demütigen oder ihnen zu schaden”.

Realistische “Deepfake“-Inhalte, erstellt mit künstlicher Intelligenz, können täuschend echt wirken und werden oft für Identitätsbetrug und Cybermobbing verwendet. Dabei werden Gesichter in Videos oder Stimmen in Audioaufnahmen manipuliert, um glaubwürdige Fälschungen zu erzeugen, die schwer als solche zu erkennen sind. Solche Manipulationen können sowohl offline als auch während Live-Anrufen erfolgen und haben oft verheerende Auswirkungen auf die Opfer, die nicht nur gedemütigt werden, sondern auch Schwierigkeiten haben, die Fälschungen wieder aus dem Internet zu entfernen. “Zu der Demütigung kommt noch der Druck hinzu, andere von der Falschheit überzeugen zu müssen. Wenn eigene Fotos oder Videos ohne Zustimmung verwendet werden, entsteht außerdem das Gefühl von Ohnmacht – denn durch die Technologien ist es ein leichtes, sehr viele und immer neue Inhalte zu erstellen. Für Betroffene ist es meist schon bei einigen wenigen Bildern oder Videos ein schweres Vorhaben, diese aus dem Netz entfernen zu lassen”.

Eltern sind daher unbedingt angehalten, mit ihren Kindern über den verantwortungsvollen Umgang mit KI-Technologien zu sprechen und sie darauf hinzuweisen, keine schädlichen Inhalte zu erstellen oder zu verbreiten. Sie sollten Kindern auch beibringen, wie sie Deepfakes erkennen können, indem sie auf kleine Fehler in den Fälschungen achten. Wenn Kinder selbst betroffen sind, sollten die Inhalte sofort bei den Plattformbetreibern gemeldet und, wenn möglich, rechtliche Schritte eingeleitet werden.