Das neue Jahr hätte für Tiktok besser beginnen können. Ende Januar starb in Italien eine Zehnjährige, die an einer "Blackout Challenge" teilgenommen hatte. Sie strangulierte sich selbst und wollte das Video später bei Tiktok hochladen, um andere Nutzerinnen und Nutzer zu beeindrucken. Wenige Wochen später beschwerte der europäische Verbraucherverband Beuc sich bei der EU-Kommission über Tiktok. "Kinder lieben TikTok, aber die Firma schafft es nicht, sie zu schützen", sagt Generaldirektorin Monique Goyens.
Um solche Eskalationen künftig zu verhindern, will sich Tiktok in Europa helfen lassen. Neun Expertinnen und Experten aus Wissenschaft und Zivilgesellschaft sollen die Plattform beraten, wie sie zu einem sicheren Ort für Minderjährige werden kann. "Wir werden die Mitglieder des Sicherheitsbeirats regelmäßig fragen: Was können wir anders machen, wo müssen wir uns verbessern?", sagt Julie de Bailliencourt, die Tiktoks Policy-Abteilung in Europa leitet und den Beirat mit initiiert hat.
Zu dem Gremium gehört etwa Judy Korn, Geschäftsführerin der deutschen Organisation Violence Prevention Network. Es reiche nicht, einfach nur extremistische Inhalte zu löschen oder Accounts zu sperren, sagt sie. "Wir müssen darüber hinausgehen und die Expertise verschiedener Berufsgruppen verknüpfen. Ich freue mich, dass TikTok diesen Weg geht und ich das Team dabei unterstützen kann."
Die anderen Mitglieder stammen aus Ländern wie Großbritannien, Frankreich, Finnland und den Niederlanden. Sie arbeiten bei NGOs, forschen zu sexualisierter Gewalt im Netz, engagieren sich gegen Mobbing und Diskriminierung. Die Zusammensetzung hat Tiktok bestimmt, einen unabhängigen Auswahlprozess gab es nicht. Die Mitglieder bleiben in ihren Jobs und werden finanziell für den Aufwand entschädigt.
Viele Kinder geben ihr Alter falsch an
Ähnliche Beiräte gibt es bereits in Asien und den USA, doch jede Region habe unterschiedliche Bedürfnisse, sagt Bailliencourt. Schließlich sind die Herausforderungen oft abhängig von Kultur und Kontext. Das neue Gremium solle die europäische Perspektive in den Blick nehmen. Im vergangenen September verkündete Tiktok, dass mehr als 100 Millionen Menschen in Europa die App regelmäßig nutzen. Bei Tiktoks Erfolg dürfte die Zahl heute höher liegen.
Besonders beliebt ist die Plattform bei Teenagern, die offiziell mindestens 13 Jahre alt sein müssen. Tatsächlich melden sich aber viele Kinder an, die ihr Geburtsdatum falsch angeben. Der Tod der zehnjährigen Italienerin zeigt, wie gefährlich das sein kann. "Wir erwarten auch, dass Algorithmen verwendet werden, um das Alter der Kinder zu überprüfen", sagte die Chefin der italienischen Datenschutzbehörde nach dem Unglück.
Für solche Probleme erhofft sich Tiktok künftig Unterstützung vom Sicherheitsbeirat. Es dürfe ruhig kritisch und kontrovers zugehen, versichert Bailliencourt. "Wir fordern die Mitglieder auf, dass sie sich nicht zurückhalten sollten. Es geht darum, möglichst offen über schwierige Themen zu diskutieren." Zu den drängendsten Herausforderungen zähle etwa der Umgang mit Videos über Essstörungen und die Frage, wie Tiktok dazu beitragen könne, dass Jugendliche sich in ihren Körpern wohlfühlen.
Tiktok diskriminierte Dicke und LGBTQ
Einerseits unterstützt Tiktok Kampagnen und Hashtags, die Body-Positivity und das Selbstwertgefühl normaler Teenager stärken sollen. Andererseits deckten Recherchen von Netzpolitik 2019 und The Intercept 2020 auf, dass Tiktok lange Zeit selbst dicke, queere und behinderte Menschen diskriminierte. Wenn Tiktoks automatische Filter vermeintlich "hässliche Gesichter" oder "abnormale Körperformen" erkannten, drosselte der Algorithmus die Reichweite der Videos.
"Da sind in der Vergangenheit Fehler passiert", sagte Tobias Henning, Tiktoks Geschäftsleiter in Deutschland, kürzlich in einem Interview mit Zeit Online. Man habe Maßnahmen ergriffen. Allerdings offenbarten Guardian und Buzzfeed im Dezember und im Februar, dass Tiktok noch viel Arbeit vor sich hat. Teils empfehlen die Algorithmen der Plattform auf der zentralen "Für dich"-Seite Inhalte, die gefährliche Diäten propagieren und Menschen in die Magersucht treiben könnten.
"Ganz und gar" kein Einfluss aus China
Zu den von Henning angesprochenen Maßnahmen, die solche Fehler verhindern sollen, gehört das Sicherheitszentrum in Dublin, wo auch Bailliencourt arbeitet. "Wir möchten, dass Tiktok ein Ort ist, an dem Menschen kreativ sein und sich unterhalten lassen können"; sagt sie. "Der Kampf gegen Mobbing und Radikalisierung fordert alle Plattformen heraus, deshalb brauchen wir so viel externe Expertise wie möglich."
Falls das Unternehmen und der Sicherheitsbeirat unterschiedlicher Meinung sind, behält Tiktok aber das letzte Wort. Im Gegensatz zu Facebooks "Oversight Board" kann das Gremium keine bindenden Entscheidungen treffen. Es sei eine beratende Instanz, kein Gerichtshof, sagt Bailliencourt.
Zumindest eine Sache könne sie aber ausschließen, versichert Tiktoks europäische Policy-Chefin: Der chinesische Eigentümer Bytedance nehme keinen Einfluss auf ihre Arbeit. "Ganz und gar nicht. Ich bin in Dublin angestellt. Ich bin für unsere gesamte Inhaltepolitik für Europa, den Nahen Osten und Afrika verantwortlich. Ich arbeite an einem Produkt, das in China nicht erhältlich ist."
