Täglich werden Frauen in den digitalen sozialen Netzwerken beleidigt, bedroht oder verleumdet. Dennoch tun die Plattformbetreiber wenig, damit der digitale Raum für Frauen sicherer wird. Die Whistleblowerin Frances Haugen diskutierte mit der Spiegel-Journalistin Ann-Katrin Müller und der Europaabgeordneten Alexandra Geese darüber, was jetzt zu tun ist, um die Gewalt im Netz zu stoppen.
Podiumsdiskussion in der Heinrich Böll Stiftung am 04.11.2021
Mit:
- Frances Haugen, Whistleblowerin, ehemalige Dateningenieurin, Produktmanagerin, Facebook
- Ann-Katrin Müller, Journalistin, Der Spiegel
- Alexandra Geese, MdEP Bündnis 90/ Die Grünen
- Moderation: Anna-Lena von Hodenberg, Geschäftsführerin/CEO, HateAid
Digitale Gewalt ist allgegenwärtig. In den sozialen Medien sind Frauen und Mädchen Hassnachrichten und sexueller Belästigung bis hin zu Vergewaltigungs- und Morddrohungen schutzlos ausgeliefert. Eine Umfrage der deutschen Beratungsorganisation HateAid hat ergeben, dass rund 52 Prozent der Frauen zwischen 18 und 35 Jahren bereits einmal Opfer digitaler Gewalt geworden sind. Die sozialen Plattformen, allen voran Facebook, hätten großen Anteil an dieser Gewalt, erklärte die ehemalige Facebook-Mitarbeiterin und Whistleblowerin Frances Haugen. Denn mit ihren Algorithmen und ihrer Untätigkeit, Übergriffe zu ahnden und Hassposts umgehend zu löschen, heizten sie diese Entwicklung an. Sie warf dem Konzern vor, zu lax gegen Hass im Netz vorzugehen. In der Folge zögen sich immer mehr Frauen aus den sozialen Medien zurück, sagte sie.
Wie können digitale Räume sicher werden?
Was aber muss passieren, damit soziale Netzwerke zu sicheren öffentlichen Räumen werden? Frances Haugen forderte vor allem mehr Personal, das sich um eingehende Beschwerden zuverlässig kümmert und das dafür sorgt, dass Hassnachrichten, Drohungen und Beleidigungen schnell gelöscht werden. Speziell Frauen im nicht-englischsprachigen Raum seien gefährdet, so Haugen. Denn Facebook konzentriere seine Aktivitäten, um gegen digitale Gewalt vorzugehen, vor allem auf die Vereinigten Staaten. Gründe dafür seien die mächtige Gerichtsbarkeit in den USA und die mitunter strengen Urteile. So habe Facebook in den USA schon empfindliche Geldstrafen hinnehmen müssen. Vergleichbares habe Facebook in kaum einem anderen Land zu befürchten.
Facebook setzt die eigenen Regeln nicht durch
Zudem hätten Prominente bei Facebook einen fast uneingeschränkten Freifahrschein, gegen Facebook-Regeln zu verstoßen, erklärte Haugen. Accounts von Prominenten würden bei Facebook speziell als VIP-Account gekennzeichnet. Damit wolle Facebook negative PR verhindern. Deshalb passiere - anders als bei normalen Nutzenden - erst einmal nichts, wenn ein Post eines VIP-Accounts gegen die Regeln verstoße.
Zu was diese Praxis führe, habe das Beispiel des Fußballers Neymar gezeigt. Neymar hatte bei Facebook gegen ihren Willen ein intimes Bild einer Frau gepostet, die ihn der Vergewaltigung bezichtigt hatte. Das Bild wurde mehr als einen Tag lang nicht gelöscht. Das Foto wurde binnen kürzester Zeit 60 Millionen Mal angesehen, wie Frances Haugen berichtete. Entgegen der Facebook-eigenen Regeln wurde Neymars Facebook-Konto auch nicht gesperrt. Facebook setze seine eigenen Regeln nicht durch, vor allem nicht gegenüber Prominenten, fasste die Whistleblowerin ihre Analyse zusammen.
Frauen werden aus der digitalen Welt gedrängt
Wenn sich Frauen weniger in der digitalen Welt bewegen, weil sie Gewalt fürchten müssen, sei dies auch eine Bedrohung für unsere Demokratie, sagte die Spiegel-Journalistin Ann-Katrin Müller. Politisch engagierte Frauen hätten Angst um ihr Leben, wenn sie digital aktiv sind. Frauen mit einem Migrationshintergrund seien besonders stark von Beleidigungen, Bedrohungen und Verleumdungen im Netz betroffen. Viele Frauen würden sich in der Folge oftmals nicht mehr zu bestimmten Themen äußern, um sich und ihre Angehörigen zu schützen. Frauen würden auf diese Weise gezielt aus der digitalen Öffentlichkeit herausgedrängt. Rückzug aus dem digitalen Raum könne aber keine Option sein, da Frauen damit ihre, in 100 Jahren Kampf um Emanzipation gewonnene Macht wieder verlören, so Müller. Unverständnis zeigte die Journalistin dafür, dass die sozialen Netzwerke ihre Algorithmen nicht darauf trainieren, Hassnachrichten aufzuspüren.
Algorithmen forcieren Polarisierung der Gesellschaft
Die Europaabgeordnete Alexandra Geese sah es als systemisches Problem an, dass polarisierende Posts stärker verbreitet werden. Die großen Kommunikations-Plattformen würden viel zu wenig unternehmen, um sichere Räume für die Nutzenden zu schaffen, sagte sie. Um die Aufmerksamkeit der User zu binden und sie so lange wie möglich auf den Plattformen zu halten, würden die Algorithmen vor allem die Posts verbreiten, die zu Erregung führen. Dies begünstige die Verbreitung von hasserfüllten und spalterischen Inhalten. Vor allem Facebook treibe die Polarisierung der Gesellschaft voran, indem der Algorithmus die Nutzenden immer stärker in die Radikalisierung dränge. Eine Beobachtung, die von Frances Haugen ausdrücklich geteilt wurde. Die Nutzenden würden bei Facebook zu extremen Inhalten gedrängt, so Haugen. Anders, als beispielsweise bei Twitter, entscheide allein der Algorithmus darüber, welche Inhalte geteilt werden. Aber mit der Verbreitung von Hass schwäche Facebook die Gesellschaft, warnte Haugen.
Facebook verhindert Transparenz
Facebook sei zudem weit weniger transparent, als andere Plattformen, wie etwa Google oder Twitter, erklärte Frances Haugen. Als Beleg dafür verwies sie auf einen Vorfall, bei dem Facebook den Zugang eines Projekts der New York University (NYU) zu der Plattform sperrte. Die Wissenschaftler*innen wollten untersuchen, wer wann welche politischen Anzeigen bei Facebook ansieht. Die Mitarbeitenden von Facebook nahm Haugen allerdings explizit in Schutz: Facebook sei voll von Leuten, die Menschen miteinander verbinden wollen und die dafür bessere Systeme entwickeln wollen. Allerdings bekämen sie dafür im Konzern zu wenig Freiräume eingeräumt.
Wie die Nutzerrechte stärken?
Wie kann man also die Rechte der Nutzenden gegenüber den Plattformen stärken und mehr Transparenz durchsetzen? Fortschritte bei Gerichtsurteilen seien ein wichtiger Baustein, berichtete Frances Haugan von ihren Erfahrungen bei Facebook. Ann-Katrin Müller erhoffte sich Verbesserungen aufgrund des zunehmend schlechten Images der sozialen Medien. Alexandra Geese plädierte dafür, dass die sozialen Plattformen nur auf die Daten zugreifen dürfen sollten, die die Nutzenden ihnen freiwillig zur Verfügung stellen. Unterbunden werden müsse die Praxis, dass die freiwilligen Nutzerdaten mit anderen Daten, etwa zur Religionszugehörigkeit oder zur sexuellen Orientierung, verknüpft werden, wie dies durch die Algorithmen geschehe. Jedoch fehle es genau hier an Transparenz: Die Nutzenden wüssten nicht, was genau mit den Daten passiere, sagte Ann-Katrin-Müller.
EU will Netzwerke in die Pflicht nehmen
Alexandra Geese begrüßte deshalb, dass sich die EU-Kommission dieses System nun genau anschaue. Transparenz sei die Voraussetzung, um eine fundierte Risikobewertung durch ein unabhängiges Expertengremium vornehmen zu können. Hierfür brauche es ein europäisches Kompetenzzentrum, erklärte Geese. Auf rein nationaler Ebene sei diese Aufgabe nicht lösbar. Große Hoffnungen verband die Europaabgeordnete mit dem Digital Services Act. Das Gesetz, das derzeit in Brüssel verhandelt wird, soll die Rechte der Nutzenden stärken und zugleich die sozialen Plattformen wirksamer in die Pflicht nehmen.
Zum Erfolg verdammt
Es sei entscheidend, dass dieses Gesetz ein Erfolg wird, sagte sie weiter. Für Frauen sei es zudem wichtig, ein klares Signal zu bekommen, dass die Politik das Problem der digitalen Gewalt wahrnimmt und dagegen aktiv wird. Vom Erfolg des Gesetzes hänge ab, ob in fünf Jahren die Bedürfnisse der Nutzenden stärker im Mittelpunkt stehen werden oder noch immer vorrangig die geschäftlichen Interessen der Plattformbetreiber. Davon würden auch Länder außerhalb der EU profitieren.
Perspektive für sichere und demokratische Netzwerke?
Perspektivisch könne das Gesetz vielleicht sogar dazu beitragen, dass neue, fairere soziale Netzwerke entstehen, wagte Alexandra Geese einen Blick in die Zukunft. Auch Frances Haugen plädierte dafür, neue demokratische Netzwerke aufzubauen: Plattformbetreiber wie Facebook müssten erkennen, dass sie noch viel profitabler arbeiten könnten, wenn sie endlich ihrer Verantwortung gerecht werden würden.
