Standards gegen Missbrauch von Kindern & Jugendlichen

Zugang nur mit Einladung

Ein Jugend-Konto in der JoinIn-App kann ausschließlich mit einem gültigen, von einer Schule oder Organisation ausgegebenen Einladungscode erstellt werden – eine offene öffentliche Registrierung für Jugendliche gibt es nicht.

Bestätigte elterliche Einwilligung

Vor der Kontoerstellung muss im Onboarding aktiv bestätigt werden, dass die Eltern bzw. Erziehungsberechtigten mit der Nutzung von JoinIn einverstanden sind (Art. 8 DSGVO). Ohne diese Bestätigung verweigert der Server die Registrierung, sodass die App nicht genutzt werden kann.

Geschützte Kontakträume

Feed, Matching, Einzel-Chats und Profile sind auf die eigene(n) Organisation(en) der nutzenden Person beschränkt. Nur bei ausdrücklich organisationsübergreifenden Team-Challenges können Jugendliche mit Mitgliedern anderer Organisationen in Kontakt treten – dort über moderierten Text-Chat, mit gemeinsamer Team-Mitgliedschaft sowie den Melde- und Blockierfunktionen. Gruppenchats unter Kindern – sobald sie freigeschaltet sind – gehören zu genau einer Organisation, deren Mitglied alle sein müssen. Eingeladen werden können nur Kontakte, mit denen bereits gegenseitig geschrieben wurde, und niemand wird ohne eigene Zustimmung hinzugefügt; Gruppen sind auf 32 Personen begrenzt. Fotos, Sprach- und Videonachrichten setzen die Erlaubnis der Eltern für alle anderen Kinder der Gruppe voraus. Gruppen mit Erwachsenen stehen nur Eltern offen, deren eigenes Kind Mitglied ist; jedes Kind braucht die Zustimmung seiner Eltern für jeden fremden Erwachsenen, Erwachsene können fremde Kinder nicht selbst einladen, und ihre Nachrichten an fremde Kinder werden vor dem Zustellen streng geprüft.

Von Eltern steuerbare Kontakte

Audio- und Videoanrufe sowie das Senden von Fotos, Sprach- und Videonachrichten sind pro Kontakt durch eine Berechtigung abgesichert, die eine erziehungsberechtigte Person erteilen und jederzeit widerrufen kann. Ohne aktive Erteilung wird der Versand serverseitig verweigert statt nur ausgeblendet, und ein Widerruf beendet ein laufendes Gespräch sofort.

Keine echten Gesichtsfotos

Kinder müssen kein echtes Gesichtsfoto hochladen: Der Standard-Avatar besteht aus Initialen und Farben, und zusätzlich können sich Kinder einen gezeichneten Avatar erstellen lassen. Selbst wenn ein Foto als Vorlage genutzt wird, entsteht daraus ausschließlich eine gezeichnete Avatar-Illustration – das Originalfoto wird niemals gespeichert und nie als Profilbild angezeigt.

Ein Gerät, eine Rolle

Auf einem Gerät ist immer nur eine Rolle vorgesehen: Meldet sich auf einem Gerät, das bereits ein Kinder- bzw. Eltern-Konto führt, die jeweils andere Rolle an, weist der Server die Anmeldung und Konto-Einrichtung mit einer Begründung ab.

Automatische Moderation

Getippte Nachrichten zwischen Kindern und Jugendlichen und Kommentare werden vor der Veröffentlichung automatisch geprüft: Regelbasierte Filter (unter anderem eine Sperrwortliste und die Erkennung geteilter Kontaktdaten) greifen immer, ergänzt um eine KI-gestützte Prüfung auf Mobbing, Hass, Drohungen sowie sexuelle oder anbahnende Inhalte. Fotos und Sprachnachrichten werden vor der Zustellung automatisch auf schädliche Inhalte geprüft; eindeutig unangemessene Inhalte werden zurückgehalten, unklare Fälle zugestellt und zusätzlich einem Menschen zur Kontrolle vorgelegt. Den Chat zwischen einem Kind und seiner Vertrauensperson (Eltern-Chat) prüfen wir grundsätzlich nicht – weder Texte noch Medien. Nur solange unser Team das Kind oder die Vertrauensperson als verdächtig markiert hat, etwa nach einer Meldung des Kindes, prüfen wir ihn in beide Richtungen wie die Chats zwischen Kindern; Videos und andere Dateien werden dann einem Menschen zur Kontrolle vorgelegt. Den Hilferuf eines Kindes stellen wir dabei trotzdem zu und schalten zusätzlich unser Kinderschutz-Team ein.

Melden aus jeder Fläche

In der App lassen sich einzelne Chat-Nachrichten, Kommentare, Galerie-Beiträge, Kontakte (Personen) und Gruppenchats direkt melden. Jede Meldung wird gespeichert und erscheint zur Prüfung in unserer Moderations-Warteschlange.

Blockieren

Nutzerinnen und Nutzer können einen Kontakt jederzeit blockieren. Die Blockierung wird serverseitig durchgesetzt und unterbindet zwischen beiden Personen Chat-Nachrichten und Anrufe sowie die gegenseitige Sichtbarkeit von Profil und Inhalten; ein bereits laufender Anruf wird zusätzlich sofort beendet.

Prüfung durch Menschen

Meldungen landen in einer Warteschlange, die von einer Person über eine Administrationskonsole geprüft und bearbeitet wird – nicht ausschließlich automatisiert. Die bearbeitende Person wird dabei protokolliert.