Die Autorinnen und Autoren sind Mitglieder der Unterarbeitsgruppe Recht und Ethik der Arbeitsgruppe IT-Sicherheit, Privacy, Recht und Ethik der Plattform Lernende Systeme. Als eine von insgesamt sieben Arbeitsgruppen thematisiert sie Fragen zur Sicherheit (Security), Zuverlässigkeit (Safety) und zum Umgang mit Privatheit (Privacy) bei der Entwicklung und Anwendung von Lernenden Systemen. Sie analysiert zudem damit verbundene rechtliche sowie ethische Anforderungen und steht in engem Austausch mit allen weiteren Arbeitsgruppen der Plattform Lernende Systeme.

Künstliche Intelligenz prägt zunehmend die Lebenswelt von Kindern und Jugendlichen – in der Schule, im Alltag und in der Freizeit, etwa durch Empfehlungssysteme, Sprachassistenten oder Chatbots mit generativer KI. KI bietet Chancen, insbesondere für mehr Bildungsgerechtigkeit, indem sie beispielsweise Kindern, die zu Hause beim Lernen wenig Unterstützung erhalten, als Hilfe dient. Zugleich birgt sie aber auch Risiken, vor allem für die emotionale und soziale Entwicklung junger Menschen. Denn diese Technologien beeinflussen, wie junge Menschen sich informieren, kommunizieren, lernen, ihre Identität gestalten und aufwachsen.
Technologien sollten daher so gestaltet und reguliert werden, dass die Rechte von Kindern und Jugendlichen im Sinne von Schutz, Befähigung und Teilhabe gestärkt werden. Denn sie sind nicht nur Schutzbedürftige, sondern auch aktive Mitgestaltende ihrer digitalen Lebenswelten. Mit entsprechender Förderung können sie zu kompetenten und reflektierten KI-Nutzenden werden. Dieser Aspekt sollte als grundlegendes Ziel bei der Integration von KI in die Lebenswelt von Kindern und Jugendlichen berücksichtigt werden.
Expertinnen und Experten der Arbeitsgruppe IT-Sicherheit und Privacy, Ethik und Recht der Plattform Lernende Systeme analysieren in diesem Whitepaper die Integration von KI in die Lebenswelt von Kindern und Jugendlichen. Im Fokus stehen die verschiedenen Einsatzfelder sowie spezifischen Vulnerabilitäten von Kindern und Jugendlichen im Umgang mit KI. Auf dieser Grundlage werden Maßnahmen und Handlungsempfehlungen entwickelt. Diese erfordern das Zusammenspiel von Regulierung, verantwortungsvoller Entwicklung durch Anbieter sowie pädagogischer und gesellschaftlicher Rahmensetzung. Nur so kann das technologische Potenzial im Sinne der Entwicklung und Selbstbestimmung junger Menschen wirksam werden. Kindgerechte KI setzt somit eine Verbindung aus technischer Verantwortung, rechtlicher Rahmensetzung und entwicklungsbezogener Sensibilität voraus. Die erfolgreiche Umsetzung ist daher als gesamtgesellschaftlicher Auftrag zu verstehen.