Facebook Das große Scannen

Facebook-Chef Mark Zuckerberg jüngst bei der Entwicklerkonferenz in San José: Der Konzern gab erstmals Zahlen über Kontenlöschungen bekannt.

(Foto: Stephen Lam/Reuters)

Das soziale Netzwerk löscht eine Milliarde Konten binnen sechs Monaten. Erstmals veröffentlicht das Unternehmen Zahlen dazu in seinem "Transparenzbericht".

Von Jannis Brühl

Nicht jeder auf Facebook ist jene Person, die er vorgibt zu sein. Manche Nutzer ahmen andere Personen nach, viele Accounts sind nur dazu da, Spam oder Propaganda auf dem sozialen Netzwerk zu verbreiten. Und das, obwohl der Konzern sich von seinen Nutzern versichern lässt, dass sie sich unter ihrem echten Namen anmelden. Nun hat Facebook im Rahmen seines halbjährlichen "Transparenzberichts" erstmals Zahlen vorgelegt, die das Ausmaß falscher Nutzerprofile verdeutlichen. Mehr als eine Milliarde Konten will das Unternehmen allein in einem halben Jahr gelöscht haben, 694 Millionen im letzten Quartal 2017 und 583 Millionen im ersten 2018. Die meisten würden binnen Minuten, nachdem sie registriert wurden, erkannt und gelöscht, schrieb Konzernchef Mark Zuckerberg. Insgesamt sind Facebook zufolge trotzdem noch drei bis vier Prozent der Konten fake. Viele würden automatisiert mit speziellen Skripten oder Bots erstellt und überfluteten dann das Netzwerk mit Spam. In den Zahlen fehlen jene Accounts, die Facebooks Software automatisch schon in jenem Moment erkennt und blockiert, in dem sie erstellt werden. Im ersten Quartal habe das Unternehmen zudem 837 Millionen einzelne Spam-Beiträge entfernt.

Nach den Enthüllungen über Desinformationskampagnen durch ausländische Akteure im US-Wahlkampf 2016 ist Facebook unter Druck geraten, stärker gegen Konten unter falschem Namen vorzugehen und seine Kontrollmechanismen dazu transparenter zu machen. Hochrangige Mitarbeiter - auch Zuckerberg - mussten vor Abgeordneten des US-Kongresses aussagen. Ein Schritt zu mehr Offenheit soll die neue Form des halbjährlichen "Transparenzberichtes" sein. Die nun veröffentlichte Ausgabe zeigt nicht nur, wie Facebook auf Anfragen nationaler Gerichte reagiert, sondern erstmals auch, wie das Unternehmen Verstöße gegen seine Gemeinschaftsstandards ahndet. Diese internen Regeln hat das Unternehmen erst vor Kurzem öffentlich gemacht. (Die SZ hatte sie schon 2016 enthüllt.) Im ersten Quartal 2018 löschte Facebook auch 21 Millionen Beiträge, weil sie Nacktheit oder Sex zeigten (Kinderpornografie nicht eingerechnet). 96 Prozent davon wurden dem Unternehmen zufolge automatisch erkannt.

Bei Hassreden zeigt sich, wie begrenzt Algorithmen sind, wenn es um Sprache geht

Aus den Zahlen geht hervor, dass sich Facebook immer stärker auf automatisierte Erkennungssysteme verlässt, die Beiträge automatisch scannen, um Regelbrüche zu erkennen. Beim Thema "Hassrede" zeigt sich, wie begrenzt jedoch Algorithmen sind, wenn es um Sprache geht. Facebook sagt, dort "funktioniert unsere Technologie nach wie vor nicht so gut". Von den 2,5 Millionen Beiträgen, die im ersten Quartal gelöscht wurden, waren 38 Prozent automatisiert gemeldet worden.

Wie schon seit Jahren zeigt der Bericht auch, wie viele Beiträge in bestimmten Ländern blockiert wurden, weil sie dort illegal sind. In Deutschland waren im zweiten Halbjahr 2017 1893 Beiträge betroffen, deutlich mehr als im ersten Halbjahr. Das lag vor allem daran, dass die Zahl der gesperrten Beiträge, in denen Nutzer den Holocaust geleugnet hatten, um die Hälfte auf 1607 Fälle stieg. Hinzu kamen 212 Fälle von Beleidigung, die restlichen 74 verteilten sich auf Volksverhetzung und Verstöße gegen den Jugendschutz. Nur in der Türkei, Mexiko und Indien blockierte Facebook auf amtliche Anordnung mehr Beiträge als in Deutschland.