Kinderrechtsorganisationen haben vor den Gefahren von Künstlicher Intelligenz (KI) für Kinder und Jugendliche gewarnt und Maßnahmen für den Schutz Heranwachsender mit Blick auf die Technologie gefordert. KI sei „bereits tief im Alltag junger Menschen verankert“, häufig, ohne dass sich diese dessen bewusst sind, heißt es in einer Studie von SOS-Kinderdörfer weltweit und Terre des Hommes, die dem Redaktionsnetzwerk Deutschland am Sonntag vorlag. KI prägt demnach Bildung, soziale Medien, Suchmaschinen, Unterhaltung und kreative Tools „oft unsichtbar, sodass junge Menschen routinemäßig mit ihr interagieren, bevor sie sie benennen können“, heißt es weiter. Die Interaktion berge Chancen ebenso wie Risiken: „Dieselben Gestaltungsmerkmale, die Personalisierung, Kreativität und Barrierefreiheit ermöglichen, bergen zugleich die Gefahr von Fehlinformationen, Voreingenommenheit, Abhängigkeit und kommerzieller Ausbeutung.“ Joshua Hofert, Vorstandssprecher von Terre des Hommes, erklärt: „Kinder wachsen nicht neben KI auf, sondern mit ihr. Doch während Tech-Konzerne Milliarden verdienen, bleiben junge Menschen häufig schutzlos – insbesondere gegenüber Deepfakes, manipulativen Algorithmen und emotionaler Abhängigkeit.“ Deshalb müsse Kindesschutz „von Anfang an Teil jeder KI-Anwendung sein“. Rufe nach Regulierung Sabina Schutter, Vorständin bei SOS-Kinderdörfer weltweit, sagte: „Während Tech-Firmen die Entwicklung von KI-Anwendungen mit unvorstellbaren Summen vorantreiben, hinkt die gesetzliche Regulierung zunehmend hinterher. Um die Risiken für Kinder durch KI zu senken, müssen wir umfassende Maßnahmen ergreifen.“ Kinder und Jugendliche bräuchten zudem „Kompetenzen, um digitale Räume kritisch, sicher und selbstbewusst nutzen zu können“, sagte Schutter. In den vergangenen Wochen waren in den USA und in Europa zunehmend Rufe nach einer Regulierung von KI laut geworden, nachdem sich KI-Agenten selbständig gemacht und anders verhalten hatten als vorgesehen. Mehrere Chefs führender KI-Firmen, darunter OpenAI-Chef Sam Altman (verlinkt auf https://www.welt.de/wirtschaft/article6aaa8036bfb40073cb2f397f/chatgpt-openai-chef-gesteht-ki-kontrollverlust-ein-und-seine-eigene-unaufrichtigkeit.html) und Anthropic-Chef Dario Amodei, plädierten für eine Drosselung der Entwicklung.