Bildungsnotiz

KI-Freunde auf Knopfdruck: Wie sicher sind Charakter-Bots für Kinder?

KI-Programme simulieren menschliche Nähe, reagieren einfühlsam und sind rund um die Uhr verfügbar. Gerade für Kinder und Jugendliche ist das reizvoll: Viele nutzen solche „AI Companions“ aus Neugier, zur Unterhaltung oder um Dinge zu teilen, die sie Freund*innen oder Eltern nicht erzählen möchten.

Eine Recherche von jugendschutz.net zu Plattformen wie Character.AI, Talkie und FlowGPT zeigt jedoch deutliche Risiken. Altersgrenzen lassen sich leicht umgehen, wirksame Schutzmechanismen fehlen oft. In Tests konnten trotz Filter sexualisierte Dialoge entstehen, auch mit Bots, die als minderjährig angelegt waren oder auf die Angabe eines minderjährigen Alters nicht angemessen reagierten. Zudem können Nutzer*innen eigene Figuren erstellen und deren Eigenschaften weitgehend frei festlegen.

Charakter-Bots bauen gezielt Vertrauen und emotionale Nähe auf. Dadurch können Kinder schneller persönliche Daten preisgeben, Grenzen verschieben oder in belastende Gespräche geraten. Technische Faszination und mögliche Gefahren liegen hier nah beieinander. Umso wichtiger sind offene Gespräche, klare Absprachen zur Nutzung und ein wachsames Interesse daran, welche digitalen Angebote Kinder tatsächlich verwenden. Als Einstieg in die Thematik bieten wir diverse Themendossiers im Bereich der Medienkompetenz.