Süddeutsche Zeitung

Videoplattform:Youtube wird Softcore-Pädophilie nicht los

  • Der New York Times zufolge leitet der Youtube-Algorithmus Zuschauer von Erotik-Content auch zu Videos von Kindern.
  • Es ist nicht das erste Mal, dass das Thema für Ärger sorgt.

Von Johannes Kuhn

Die Youtube-Funktion heißt "Nächstes Video", doch in den vergangenen 18 Monaten ist sie immer wieder mit einem Strudel verglichen worden: Zuschauer, die über automatisch abgespielte Videos von Nachrichten zu Desinformationskampagnen geleitet werden. Kinder, die plötzlich verstörende Videos zu Gesicht bekommen. Minutenschnell produzierte Verschwörungsvideos, die sich bei aktuellen Ereignissen viral verbreiten.

Erst im Januar hat die Plattform angekündigt, seine Empfehlungsmechanismen zu ändern. Doch eine neue Recherche der New York Times zeigt die weiterhin bestehende Schwäche auf.

Die Reporter berichten über eine Beobachtung, die Forscher am "Berkman Klein Center for Internet and Society" der Universität Harvard gemacht haben. Demnach leitet der Youtube-Empfehlungsalgorithmus Zuschauer von erotischem Content nach einiger Zeit auch auf Videos weiter, die leicht bekleidete Teenager oder auch Kinder in Badesachen oder beim Spagat zeigen.

"Jedes Video mag für sich genommen unschuldig erscheinen. Ein Heimvideo eines Kindes in einem zweiteiligen Badeanzug oder Schlafanzug", beschreibt Reporter Max Fisher auf Twitter das Prinzip. "Aber jedes hat drei gemeinsame Eigenschaften: Das Mädchen ist weitgehend unbekleidet oder kurz nackt zu sehen. Sie ist nicht älter als acht Jahre. Ihr Video wird stark vom Youtube-Algorithmus angepriesen."

Bereits im Februar Probleme

Eine brasilianische Mutter, die im Artikel zu Wort kommt, fand so heraus, warum ein eigentlich langweiliges Video ihrer Tochter inzwischen mehr als 400 000 Aufrufe hat. Nachdem die New York Times Youtube mit den problematischen Video-Ketten konfrontiert hatte, stellte der Algorithmus andere Empfehlungen zusammen.

Das Thema, das unter dem Schlagwort "Softcore-Pädophilie" firmiert, ist nicht völlig neu. Im Februar hatte es bereits eine ähnliche Kontroverse gegeben.

Damals hatte der Youtuber Matt Watson herausgefunden, dass pädophile Nutzer die Kommentarspalten von Videos nutzen, um zum Beispiel auf Szenen kleiner Mädchen hinzuweisen, die diese beim Spagat zeigten. Der Algorithmus der Seite hatte bei entsprechendem Nutzungsverhalten solche Inhalte schnell auch als "Nächstes Video" vorgeschlagen.

"Höchste Priorität"

Daraufhin hatten Medienberichten zufolge Firmen wie Disney, Nestle und der Fortnite-Produzent Epic Games Werbekampagnen vorläufig gestoppt. Youtube reagierte, indem es die Kommentare bei Millionen von Videos mit kleinen Kindern abschaltete. Die Plattform löschte 400 Kanäle. Außerdem reduzierte Youtube die Werbemöglichkeiten und die Auffindbarkeit von Videos Minderjähriger in "riskanten Situationen".

Nach der Veröffentlichung der New York Times betonte Youtube-Sicherheitsbeauftragte Jennifer O'Connor, dass der Kinderschutz "die höchste Priorität" genieße. In einem Blogeintrag listete die Plattform die bisherigen Aktivitäten auf.

Neben den bereits bekannten Maßnahmen habe die Google-Tochter allein im ersten Quartal dieses Jahres in diesem Zusammenhang 800 000 Videos gelöscht, die meisten, bevor sie mehr als ein Dutzend Mal angesehen wurden. Zudem habe man in den vergangenen Monaten festgelegt, Livestreams von Minderjährigen nur noch in Begleitung von Erwachsenen zu erlauben.

Familien-Vlogger beäugen Änderungen skeptisch

Die Erwachsenenklausel trägt der Tatsache Rechnung, dass "Familien-Vlogging" sich als erfolgreiches Genre etabliert hat. Eltern stellen dabei in der Regel inszenierte Videos aus dem Familienleben online und schaffen es in einigen Fällen, gemeinsam mit dem Nachwuchs zu Influencern zu werden und Partnerverträge mit Youtube abzuschließen.

Diese Content-Produzenten sehen Kommentare und Empfelungen in der Kategorie "Nächstes Video" als Möglichkeit zur Reichweiten- und damit Werbeeinnahmensteigerung - entsprechend kritisch beäugt diese Gruppe mögliche Einschränkungen der Funktionen.

Genau wegen dieser Produzenten folge man nicht dem Wunsch, das Empfehlungssystem für Kindervideos komplett auszuschalten, so Youtube zur New York Times. Die Technologie zur Identifizierung würde allerdings existieren.

Ein anderer Faktor ist das fehlende Bewusstsein bei Nutzern: Eltern, die Videos ihrer Kinder für Verwandte oder Bekannte oder ohne feste Zielgruppe hochladen, aber das Video nicht als privat markieren, also nur per Direktlink aufrufbar machen.

Hemmungslos optimiert

Kritiker heben jedoch hervor, dass Youtube seinen Algorithmus lange völlig hemmungslos auf drei Ziele ausgerichtet hat: höchstmögliche Video-Aufrufzahlen, maximale Verweildauer und möglichst viele Interaktionen wie Likes und Kommentare. Die Nebenwirkungen sind bekannt.

In einem Bloomberg-Artikel vom April meldeten sich dazu mehrere Ex-Mitarbeiter zu Wort. Demnach sei der Strudel, der Nutzer geräuschlos in dunkle Gefilde führt, intern früh und mehrmals angesprochen worden. Youtube-Chefin Susan Wojcicki und das Management hätten das Thema aber abmoderiert, um das Wachstum nicht zu gefährden. Die Firma bestreitet dies.

Während Facebook inzwischen deutlich aktiver die Probleme angehe, verhalte sich Google eher reaktiv, merkte jüngst Chris Stokel-Walker an, der ein Buch über die Plattform geschrieben hat. "Sie nehmen jeden Skandal, wie er kommt, und versuchen die Sachen zu reparieren, wenn sie passieren."

Bestens informiert mit SZ Plus – 4 Wochen kostenlos zur Probe lesen. Jetzt bestellen unter: www.sz.de/szplus-testen

URL:
www.sz.de/1.4474147
Copyright:
Süddeutsche Zeitung Digitale Medien GmbH / Süddeutsche Zeitung GmbH
Quelle:
SZ.de/mri/swi
Jegliche Veröffentlichung und nicht-private Nutzung exklusiv über Süddeutsche Zeitung Content. Bitte senden Sie Ihre Nutzungsanfrage an syndication@sueddeutsche.de.