Civic Data Lab Startseite
Kinder und Jugendliche wachsen heute in einer digitalen Welt auf. Sie lernen, kommunizieren, spielen und entwickeln ihre Identität zunehmend auch online. Gleichzeitig gibt es immer mehr Hinweise darauf, dass digitale Plattformen und KI-Systeme Risiken für die Entwicklung von Kindern und Jugendlichen bergen. Die Europäische Union arbeitet aktuell an Vorschriften zum Schutz von Kindern und Jugendlichen vor möglichen negativen Effekten sozialer Medien. „Dafür entwirft die EU-Kommission Regularien für die Geschäftsmodelle der sozialen Medien“, sagte EU-Kommissionspräsidentin Ursula von der Leyen auf dem EU-Gipfel zu KI und Kindern am 12. Mai in Kopenhagen. Die Kommission wolle gegen „süchtig machende und schädliche Designpraktiken“ sowie „Aufmerksamkeitsfang“ und „komplexe Verträge und Abonnementfallen“ vorgehen.
Die Europäische Kommission hat dieses Thema in den vergangenen Monaten mit Nachdruck auf die öffentliche Agenda gesetzt. Dabei kritisierte sie insbesondere Geschäftsmodelle sozialer Plattformen, die auf maximale Aufmerksamkeit ausgerichtet sind und deutlich gemacht, dass sie den Schutz Minderjähriger zu einer zentralen Priorität ihrer Digitalpolitik machen will. Im Fokus stehen insbesondere große Plattformen wie TikTok, Instagram oder Facebook.
Die Kritik richtet sich dabei weniger gegen einzelne Inhalte als gegen die Architektur vieler Plattformen selbst. Endloses Scrollen, algorithmische Empfehlungsmechanismen, automatische Wiedergabe und permanente Benachrichtigungen sind darauf ausgelegt, Aufmerksamkeit möglichst lange zu binden. Für Erwachsene kann das bereits herausfordernd sein. Für Kinder und Jugendliche, deren Selbstregulationsfähigkeiten sich noch entwickeln, sind die Auswirkungen potenziell deutlich größer.
Hinzu kommt die Frage der Altersverifikation. Nach Einschätzung europäischer Behörden nutzen Millionen Minderjährige Plattformen, obwohl sie die offiziell vorgeschriebenen Altersgrenzen nicht erfüllen. Die EU diskutiert deshalb verstärkt über technische Lösungen, strengere Kontrollen und die konsequente Durchsetzung bestehender Regeln.
„Endloses Scrollen, automatische Wiedergabe und permanente Benachrichtigungen seien keine zufälligen Entscheidungen, sondern gezielte Mechanismen, um Nutzende möglichst lange auf Plattformen zu halten“ sagte Kommissionspräsidentin von der Leyen beim EU-Gipfel.
Gleichzeitig werfen die europäischen Aufsichtsbehörden großen Plattformen wie Meta vor, Minderjährige nicht ausreichend zu schützen und Altersgrenzen nur unzureichend durchzusetzen. Von der Leyen berichtete, dass aktuell eine App zur Altersüberprüfung entwickelt werde. Sie biete die höchsten Datenschutzstandards der Welt, funktioniere auf jedem Gerät, sei einfach zu bedienen und komplett Open Source. In Dänemark wird sie im Sommer eingeführt. Die EU arbeitet mit den Mitgliedstaaten daran, sie in die digitalen Brieftaschen zu integrieren. Online-Plattformen können die Open-Source-Technologie leicht verwenden. Eine Pflicht besteht bisher aber nicht.
Die Debatte kann aber nicht allein bei Plattformen und Social Media verbleiben. Mit dem Aufstieg generativer KI entstehen weitere, neue Herausforderungen. KI-Systeme werden für viele junge Menschen zu Gesprächspartnern, Lernbegleitern und Informationsquellen. Dabei können sie Orientierung geben, aber auch Abhängigkeiten fördern, Fehlinformationen verstärken oder problematische Beziehungsmuster erzeugen. Besonders sogenannte affirmative KI-Systeme, die Aussagen ihrer Nutzerinnen und Nutzer überwiegend bestätigen, werfen Fragen für die sozial-emotionale Entwicklung junger Menschen auf.
Diese Debatten müssen in Zukunft noch deutlich mehr Raum einnehmen und in vielfältiger Weise geführt werden. Sie greifen zu kurz, wenn sie ausschließlich auf Verbote und Zugangsbeschränkungen setzen. Diese Perspektive wurde auch deutlich beim fünften Hearing der unabhängigen Expertenkommission „Kinder- und Jugendschutz in der digitalen Welt“ des BMBFSFJ, das am 20. April 2026 veröffentlicht wurde. Viele der beteiligten Expertinnen und Experten waren sich einig: Kinderschutz im digitalen Raum lässt sich nicht allein durch Verbote erreichen. Notwendig sind Prävention, Frühintervention und die Stärkung digitaler Resilienz.
Digitale Medien sind keine Ausnahmeerscheinung mehr, sondern eine eigenständige Lebenswelt junger Menschen. Sie bergen Risiken, eröffnen aber gleichzeitig Chancen für Teilhabe, Bildung und Identitätsentwicklung. Ein zeitgemäßer Kinder- und Jugendschutz muss beide Seiten im Blick behalten. Dazu gehören altersgerechte Bildungsangebote, die junge Menschen befähigen, digitale Technologien kritisch und selbstbestimmt zu nutzen. Dazu gehört aber auch ein Unterstützungssystem, das frühzeitig hilft, wenn Belastungen entstehen, von der Gesundheitsförderung über niedrigschwellige Beratungsangebote bis hin zu spezialisierter Hilfe. Ebenso wichtig ist eine bessere Zusammenarbeit zwischen Bildung, Jugendhilfe und Gesundheitsversorgung. Noch immer entstehen hier Lücken, die gerade junge Menschen mit Unterstützungsbedarf besonders hart treffen.
Ursula von der Leyen sprach beim EU-Gipfel zu KI und Kinder- und Jugendschutz von der Notwendigkeit, den Kindern Zeit zu geben, resilienter zu werden. „Sie müssen ihre Fähigkeiten entwickeln, eigenständig zu handeln, online wie offline, und wir müssen ihnen die Mittel zum Lernen an die Hand geben. Sie müssen die Logik der sozialen Medien verstehen. Sie müssen lernen, sich vor negativen Auswirkungen zu schützen und gleichzeitig die positiven Seiten zu nutzen.“ Bei dieser Aufgabe müsse jede und jeder seinen Beitrag leisten. Eltern, die als Vorbilder dienen. Lehrer, die Kindern helfen können, diese Kompetenzen von klein auf einzuüben und Medienorganisationen, NGOs oder Journalisten, die mit ihrer Berufserfahrung zeigen können, wie man Quellen überprüft und Fake News und KI-generierte Bilder erkennt. „Der Grundgedanke dahinter ist, zum kritischen Nachdenken vor dem Klicken anzuregen. Medienpädagogik ist eine entscheidende gesamtgesellschaftliche Aufgabe“, so von der Leyen.
Die Bestandsaufnahmen der EU-Kommission und der Expertenkommission „Kinder- und Jugendschutz in der digitalen Welt“ des BMBFSFJ zeigen, dass die Regulierung digitaler Plattformen notwendig ist. Doch sie allein wird nicht ausreichen, wenn die Gesellschaft Kinder und Jugendliche in einer von KI geprägten Zukunft schützen will. Organisationen, Unternehmen und die Zivilgesellschaft müssen digitale Räume so gestalten, dass sie Teilhabe ermöglichen, Grundrechte stärken und das Wohl junger Menschen in den Mittelpunkt stellen. Kinder- und Jugendschutz in der digitalen Welt ist deshalb keine rein technische oder regulatorische Aufgabe, er ist eine gesellschaftliche Gesamtverantwortung. Und er beginnt mit der Frage, welche digitale Zukunft wir für die nächste Generation schaffen wollen.
Hier ist die Bestandaufnahme der Expertenkommission „Kinder und Jugendschutz in der digitalen Welt“ nachzulesen:
