Im Jahr 2021 ließ Frances Haugen, eine ehemalige Mitarbeiterin von Meta Platforms (damals bekannt als Facebook), interne Dokumente durchsickern, aus denen hervorgeht, dass das Unternehmen sich des Schadens bewusst war, den es den Nutzern zufügte.
Aus den Dokumenten ging beispielsweise hervor, dass Facebook wusste, dass Instagram die Probleme mit dem Körperbild bei Teenagern verschlimmerte, das Problem jedoch in der Öffentlichkeit herunterspielte.
„Die Führung des Unternehmens kennt Möglichkeiten, Facebook und Instagram sicherer zu machen, aber sie wird die notwendigen Änderungen nicht vornehmen, weil sie ihre immensen Gewinne über die Menschen gestellt haben“, sagte Haugen dem Europäischen Parlament während einer Anhörung am 8. November 2021.
Haugens Geschichte sorgte international für Schlagzeilen und löste eine Diskussion darüber aus, was digitale Plattformen tun können und sollten, um die Rechte der Nutzer zu schützen.
Aber was sind diese Rechte und wie gefährdet sind Benutzer im Internet?
Euronews Tech Talks sammelte diese und weitere Fragen aus dem Publikum und stellte sie Gloria González Fuster, Forschungsprofessorin an der Vrije Universiteit Brussel, spezialisiert auf Digitalisierung und Rechte, und Silvia Semenzin, Forscherin bei der europäischen gemeinnützigen KI-Forensik mit einem Hintergrund in digitaler Soziologie.
Was sind digitale Rechte?
Unabhängig davon, ob Menschen online sind oder nicht, haben sie Anspruch auf Rechte, die respektiert werden müssen.
„Digitale Rechte sind ein informeller Begriff, mit dem wir uns auf Rechte beziehen, die wir haben, wenn wir online sind“, erklärte González Fuster. „Einige dieser Rechte sind traditionelle Menschenrechte, Rechte, die wir haben, weil wir Menschen sind, wie zum Beispiel das Recht auf freie Meinungsäußerung, das Recht auf Privatleben.“
Genau wie im Offline-Umfeld sind einige Menschen auf digitalen Plattformen anfälliger für die Verletzung ihrer Rechte als andere.
„An der Spitze der Diskriminierungslinie stehen Frauen, gefolgt von der LGBTQ+-Gemeinschaft, Migranten und Menschen, die aufgrund ihrer ethnischen Zugehörigkeit, Religion usw. diskriminiert werden“, sagte Semenzin gegenüber Euronews.
Manchmal ist der Missbrauch digitaler Rechte offensichtlich und sorgt für Schlagzeilen, wie bei der italienischen Facebook-Gruppe Mia Moglie mit 32.000 Mitgliedern, in der Männer sechs Jahre lang ohne Zustimmung intime Bilder ihrer Frauen teilten. In anderen Fällen ist die Diskriminierung subtiler, beispielsweise wenn bestimmte Minderheitengruppen aus dem Feed einer Person gelöscht werden.
„Algorithmen entscheiden, wessen Stimmen sichtbarer sind, wessen Geschichte mehr Aufmerksamkeit erhält, wer zu Wort kommt und wer zensiert wird“, erklärte Semenzin.
Was können Plattformen tun, um soziale Medien sicherer zu machen?
Eine Möglichkeit, wie digitale Plattformen ihre Nutzer sicherer machen können, ist die Moderation von Inhalten. Da Social-Media-Unternehmen jedoch wenig transparent sind, ist es oft schwierig, die Funktionsweise dieses Prozesses zu verstehen.
Semenzin erklärte, dass die Moderation auf großen Plattformen typischerweise sowohl von Menschen als auch von automatisierten Tools durchgeführt wird, es ist jedoch nicht genau bekannt, wie viele es jeweils gibt.
Darüber hinaus betonte sie, dass es schwer zu verstehen sei, wie sowohl Menschen als auch automatisierte Moderatoren trainiert werden und wie sie ihre Entscheidungen treffen.
„Die eigentliche Antwort ist, dass wir viel mehr Transparenz über diese Prozesse brauchen würden“, fügte Semenzin hinzu.
Was können Regierungen tun, um soziale Medien sicherer zu machen?
Regierungen können versuchen, Plattformen sicherer zu machen, indem sie Social-Media-Unternehmen Vorschriften auferlegen. In der Europäischen Union (EU) gibt es beispielsweise mehrere Gesetze, die sich mit diesem Thema befassen, darunter die Datenschutz-Grundverordnung (DSGVO), die für jede Verarbeitung personenbezogener Daten gilt.
„Man muss der betroffenen Person einige Rechte einräumen, und dann wird es eine Datenschutzbehörde geben, die überwacht, dass alles gut läuft und die Menschen sich an die Gesetze halten“, sagte González Fuster über die DSGVO.
Das Problem bei derartigen Regulierungen besteht jedoch darin, dass es lange dauert, bis sie zu konsequenten Veränderungen führen, da Big-Tech-Unternehmen häufig die gegen sie verhängten Sanktionen anfechten.
„Wir wenden die DSGVO bereits seit einigen Jahren an“, erklärte González Fuster. „Uns wurde schon lange gesagt: ‚Warten Sie, es wird irgendwann klappen‘, aber es dauert ziemlich lange, bis wir eine direkte Wirkung sehen.“
Darüber hinaus betonte González Fuster, dass sich die DSGVO aufgrund von Diskussionen innerhalb der EU-Institutionen ändert, was die Auswirkungen der Verordnung weiter verzögern könnte.
„Bei vielen dieser Veränderungen geht es um das Aufkommen der KI, mit der Idee, dass wir alle KI nutzen wollen, und dann sollten wir vielleicht die Augen vor dem Datenschutz verschließen“, erklärte sie.
Durch das EU-KI-Gesetz, das 2024 in Kraft trat, wurden bereits einige Teile der DSGVO geändert. Und weitere Änderungen werden mit dem digitalen Omnibus erwogen, einem Maßnahmenpaket, das derzeit in Brüssel diskutiert wird, um die KI-Regeln zu verschlanken.
Laut González Fuster sind diese Änderungen jedoch riskant: „Weil wir alle KI nutzen wollen, müssen wir besonders vorsichtig und vorsichtiger denn je sein, was wir mit personenbezogenen Daten tun“, erklärte sie.
Was können Nutzer tun, um ihre Rechte zu schützen?
Auch Nutzer von Social-Media-Plattformen können einige Maßnahmen ergreifen, um ihre Rechte zu schützen.
„Wir alle haben das Recht, Social-Media-Unternehmen zu fragen: ‚Welche Informationen haben Sie über mich? Was denken Sie, was ich bin?‘“, erklärte González Fuster.
Der Zugriff auf diese Daten und Informationen kann Zeit und erheblichen Aufwand erfordern, und laut González Fuster „sollte es nicht Sache normaler Menschen sein, sich ständig online zu verteidigen.“
Sie betonte jedoch, dass es zur Vereinfachung von Rechtsstreitigkeiten Nichtregierungsorganisationen (NGOs) gibt, die sich um Datenschutzstreitigkeiten kümmern und Sammelklagen nutzen, um Big Tech zur Rechenschaft zu ziehen.
