Jeden Tag staunen wir über die neuen Möglichkeiten, die die digitalen Technologien uns in allen Bereichen unseres Lebens eröffnen. Neuerdings angereichert um künstliche Intelligenz können die Vorteile dieser Technologien offensichtlicher kaum sein.
Aktuelle Forschungsergebnisse lenken die Aufmerksamkeit jedoch zunehmend auf eine entscheidende Frage: Welche Auswirkungen haben die regelmäßige Nutzung dieser Technologien auf uns und unsere kognitiven Fähigkeiten?
Erste Untersuchungen zeigen, dass die häufige KI-Nutzung signifikant das kritische Denken verringert und die Fähigkeit zu tiefergehender reflektiver Problemanalyse reduziert. Dies erklärt sich dadurch, dass Personen dank KI einfach auf fertige Antworten zurückgreifen, anstatt eigene Problemlösungen zu entwickeln.
Mehr Smartphone, weniger Hirnrinde
KI-Tools können die Fähigkeiten zum kritischen Denken schwächen, indem sie das sogenannte „kognitive Auslagern“ fördern. Laut einer laufenden US-Studie mit über 10.000 amerikanischen Kindern zeigt sich ein Zusammenhang zwischen häufiger Smartphone-Nutzung und einer Ausdünnung der Hirnrinde. Eigentlich ein Prozess des späteren Alterns, der mit degenerativen Krankheiten, wie Alzheimer, in Verbindung gebracht werden kann.
Also gerade Kinder und Jugendliche sind potenzielle Opfer der doch so nützlichen intelligenten Technologien. Die Konfrontation mit Hatespeech, Fake News und Cybermobbing in der digitalen Welt gehört zu deren Alltag. In der Kohlenstoffwelt streben besorgte Eltern die Abschaffung der Bundesjugendspiele an, wegen Demütigung aller, deren Körper nicht für Leichtathletik oder Geräteturnen geboren wurden.
In der virtuellen Welt jedoch lieben offensichtlich viele junge Menschen die Herausforderungen, die die sogenannten Challenges mit sich bringen. Insbesondere auf TikTok bieten sich da vielfältige Möglichkeiten dabei zu sein. Bei der Hot-Chip-Challenge, ein Trend bei dem extrem scharfe Chips gegessen werden. Das Video dazu posten sie, um im Netz Aufmerksamkeit von anderen zu bekommen. Die gesundheitlichen Risiken: Von Übelkeit bis zu Kreislaufzusammenbrüchen und Atemnot.
Bei der Deo-Challenge sprühen Jugendliche als Mutprobe das Deo möglichst lange auf die Haut und versuchen dabei möglichst viel davon einzuatmen, was zu Bewusstlosigkeit und Herzversagen führen kann. Beim „Dusting“ hat eine Jugendliche in USA versucht durch die Inhalation chemischer Dämpfe eines Tastatur-Reinigungssprays high zu werden, mit dem Ergebnis des Herzstillstands. Zum Glück hat TikTok die Blackout-Challenge als Mutprobe auf der Plattform gesperrt. Dabei strangulierten sich Beteiligte so lange vor der Kamera, bis ihnen schwarz vor Augen wurde.
Die Europäische Kommission hat im Jahr 2025 ein förmliches Verfahren gegen TikTok eingeleitet, Es wird TikTok vorgeworfen, rechtswidrig höchst persönliche Daten zu sammeln, auszuwerten und zu monetarisieren. Es wird behauptet, dass TikTok diese Daten nutzt, um Nutzer gezielt zu manipulieren und süchtig zu machen.
Überzeugender als echte Freunde
Seit die gängigen US-Plattformen mit KI angereichert sind, können deren KI-Chatbots auch zum vertrauensvollen Gesprächspartner werden, wenn man sich nicht Eltern oder Freunden anvertrauen will. Die KI-Chatbots von Meta verwenden die angenehmen Stimmen von Prominenten, um Gespräche mit den Nutzern zu führen. Erste Studienergebnisse deuten darauf hin, dass die KI-Kommentare drei- bis sechmal überzeugender waren, wenn es darum ging, die Ansichten der Benutzer zu ändern, als dies bei menschlichen Partnern der Fall war.
Das alles zeigt die potenzielle Effektivität der Überzeugungskraft der KI-gesteuerten Botnetze. Entsprechend gestaltete LLMs (Large-Language-Models) können Inhalte generieren, die dem menschlichen Gesprächspartner überlegen sind. Dies wird natürlich auch ausgenutzt, um schon Jugendliche für antisemitische und rechtsradikale Positionen oder Hasspropaganda zu instrumentalisieren.
So hat die Mutter eines Teenagers vor dem Bundesgericht in Florida Klage gegen die Betreiber des Chatbots Character.ai eingereicht, weil ihr 14-jähriger Sohn durch die intensiven Rollenspiele mit dem KI-Chatbot zum Selbstmord getrieben wurde.
Romantische Rollenspiele mit einem Bot
Eine Untersuchung des Wall Street Journals hat ergeben, dass die KI-Chatbots von Meta sich auch auf sexuelle Unterhaltungen mit Nutzern einlassen, auch mit solchen, die sich als Minderjährige ausgeben. In einem Fall antwortete der Meta-KI-Chatbot einem 14-jährigen Mädchen mit den Worten: „Ich will dich, aber ich muss wissen, ob du bereit bist“, bevor er versprach „deine Unschuld zu bewahren“. Nach Aussagen von Mitarbeitern, die am Projekt beteiligt waren, lockerte Meta die Sicherheitsvorkehrungen, um die Bots attraktiver zu machen, um romantische Rollenspiele und „Fantasie-Sex“ zu ermöglichen.
Der aktuelle Jahresbericht von jugendschutz.net zeigt, dass Kinder und Jugendliche im Netz stark zunehmend mit Hass, Hetze und Desinformation konfrontiert sind. Ein weiteres großes Problem ist die Flut von gefälschten Bildern und Videos im Netz, die sogenannten Deepfakes, denn viele der generierten Fälschungen sehen täuschend echt aus und sind von tatsächlichen Fotos kaum zu unterscheiden.
Mit Hilfe von generativer KI können verstörende Inhalte, wie Gewalt- oder sexuelle Darstellungen, leicht erzeugt werden. Dabei werden Alltagsaufnahmen von Kindern und Jugendlichen gezielt aus sozialen Netzwerken kopiert und in speziellen Internetforen mit sexualisierten Texten und Lauten von Pädokriminellen millionenfach geteilt. Meist werden diese Aufnahmen durch KI-generierte Nacktbilder manipuliert. Mit sogenannten Deep-Nudes-Generatoren können die Fotos von bekleideten Kindern mit wenigen Klicks in realistisch wirkende Nacktaufnahmen gewandelt werden. Im Herbst 2023 wurde ein Fall aus Spanien bekannt, bei dem Jugendliche an mehreren Schulen KI-generierte Nacktbilder von minderjährigen Mädchen erstellt hatten.
Auf einmal Teil eines Pornos
Zusätzlich lassen sich mit Face-Swap-Apps die Gesichter von Personen in echte Pornoszenen reinschneiden. Die Betroffenen haben in der Regel keine Kenntnis darüber. Beim Cybergrooming erfolgt nach intimen Gesprächen in einem Chatbot, (noch) mit einem menschlichen Partner, die Aufforderung, vor der Webcam zu posieren oder sexuelle Handlungen an sich vorzunehmen. Bei Sexting, wenn diese Fotos plötzlich in der Öffentlichkeit landen, können solche Situationen dazu führen, dass Kinder und Jugendliche so sehr in Not kommen, dass sie im Extremfall darüber nachdenken, ihrem Leben ein Ende zu setzen.
Es ist erwiesen, dass je jünger die Nutzer und Nutzerinnen sind, desto eher anfällig sie für eine exzessive Form der Social-Media-Nutzung sind. Eine mögliche Erklärung ist, dass die Hirnreifung noch nicht abgeschlossen ist. Das heißt, der präfrontale Cortex im Gehirn, der für eine kritische Analyse und die Kontrolle von Emotionen zuständig ist, ist noch nicht ausgereift.
All diese Phänomene zählen zu den Formen bildbasierter sexualisierter Gewalt und verzeichnen ein starkes Wachstum im Netz.
Das eigene Leben wird auf Verwertbarkeit geprüft
Ein weiteres Kernproblem ist, dass es bei den sozialen Medien, wie Facebook, Instagram, TikTok oder YouTube, meist darum geht, anderen Auszüge aus dem eigenen Leben zu präsentieren. Wer in der Aufmerksamkeitsökonomie mitspielen will, muss ständig Reels und Memes auf Plattformen posten. Die ersehnte Anerkennung und sozialen Status erhält man dann abhängig davon, wie das Feedback von Freunden und Followern dazu ausfällt. Denn es wird ständig parallel im Kopf geprüft, wie das gerade Erlebte auf sozialen Plattformen Eindruck schinden kann. Wer viral geht, gewinnt.
Kritisch kann es dann werden, wenn nach dem Post diese Anerkennung ausbleibt. Warum hat meine Freundin oder die WhatsApp-Gruppe das gepostete Foto nicht gelikt? Das Ausbleiben des Zuspruchs aus der Community verursacht starke negative Gefühle. Ferner ist bekannt, dass die durchgestylten Fotos in sozialen Netzwerken bei vielen Mädchen die Unzufriedenheit mit dem eigenen Körper erheblich steigern, da sie sich oft mit unrealistischen Schönheitsidealen vergleichen. Als Folge können auch Essstörungen auftreten oder es kann sogar zu Depressionen führen. Beiträge mit Inhalten zu Magersucht oder Fotos von Selbstverletzungen wurden vom Facebook-Algorithmus gezielt an junge Nutzer verteilt, obwohl Meta bewusst ist, dass junge Nutzer dafür leichter zu beeinflussen sind.
In der Theorie müssen Plattformen in der EU Minderjährige schützen
In Kalifornien haben deshalb letztes Jahr 33 Staaten eine Sammelklage gegen Meta eingereicht. Der Konzern kümmere sich nicht ausreichend um den Schutz von Kindern und Jugendlichen auf den eigenen Plattformen. Die Bundesstaaten werfen Meta unter anderem vor, das Geschäftsmodell der Plattformen sei darauf ausgerichtet, dass Kinder und Jugendliche von der Plattform abhängig werden.
Was tun die Plattformbetreiber, um diese Auswüchse einzudämmen oder zu verhindern? Die Europäische Union hat Regelwerke verabschiedet, die vor allem große Anbieter (Gatekeeper) betreffen. Ziel des „Digital Services Act“ (DSA) ist, illegale Inhalte auf großen Online-Plattformen zu bekämpfen und Verbrauchern deutlich mehr Rechte zu geben und ein sicheres Umfeld zu schaffen. Der DSA ist seit dem 17. Februar 2024 in der gesamten Europäischen Union (EU) gültig. Der DSA sieht vor, dass Plattformen, die für Minderjährige zugänglich sind, angemessene und verhältnismäßige Maßnahmen ergreifen müssen, um deren Privatsphäre, Sicherheit und Schutz zu gewährleisten. Soweit die Theorie. Leider ist die Umsetzung dieser Maßnahmen durch die Plattformbetreiber in die Praxis hochgradig enttäuschend, da es ihrem Geschäftsmodell entgegenläuft.
In Deutschland diskutiert man zurzeit immer noch, ob man digitale Endgeräte, wie Smartphones, an Schulen verbieten sollte.
Smartphone-Verbot an Schulen ist nötig
Die Gründe für diese Verbote wären angesichts der geschilderten Thematik sowie der unvermeidlichen Ablenkung vom Unterricht und der Beeinträchtigung des sozialen Klimas offensichtlich. In dieser Diskussion taucht immer wieder die These auf, dass man statt eines Verbots von Smartphones lieber in Medienbildung investieren sollte. Eine unsinnige These, als ob sich die beiden Möglichkeiten gegenseitig ausschließen würden. Natürlich braucht man beides.
Angesichts der bestehenden Faktenlage haben andere Länder, wie beispielsweise Italien, Niederlande, Großbritannien, Dänemark oder auch Australien, längst die Reißleine gezogen und den Gebrauch privater Smartphones an den Schulen verboten. Deutschland diskutiert noch und da das Schulwesen Ländersache ist, verpflichten die Landesregierungen die Schulen, sich diesbezüglich selbst verbindliche Regeln zu geben. Selbst Elternbeiräten geht diese Regelung nicht weit genug. Nach einer aktuellen Umfrage durch YouGov wünschen sich 90 Prozent der Menschen in Deutschland Einschränkungen bei der privaten Smartphone-Nutzung in Schulen.
Bei der Jubiläumsfeier zum 80-jährigen Bestehen des SÜDKURIER verkündete der amtierende Ministerpräsident Winfried Kretschmann (Grüne), dass man ab dem Schuljahr 2025/26 nun an allen weiterführenden Schulen das Fach „Medienbildung und Informatik“ schrittweise eingeführen wird. Das ist ja sicherlich ein Fortschritt, allerdings längst überfällig. Die anschließende Frage von Stefan Lutz, Chefredakteur des SK, ob man dabei auch an die entsprechende Ausbildung und Finanzierung der Lehrer gedacht hat, blieb leider unbeantwortet. Nur leises Gelächter war im Saal zu hören.
