Aus dem Unterricht des CAS Digital Ethics mit Dozentin Adrienne Fichter berichtet Student Nathanael Hofer.

Fake News und die demokratiepolitische Dimension von Social Media

Kurz vor der Jahrtausendwende haftete dem damals jungen Internet noch der Hauch einer digitalen Agora an, eines freien, nicht-kommerziellen Raums für fundierte Debatten und diskursive öffentliche Meinungsbildung. In virtuellen Manifesten verschrieben sich digitale Revolutionäre damals dieser Utopie; heute müssen sie als CEOs globaler Tech-Konzerne vor Parlamentsausschüssen Rechenschaft ablegen. Auf ihren Plattformen tummeln sich unsichtbare Armeen im Krieg um die virtuelle Deutungshoheit.

Doch welches Geschäftsverhalten steckt dahinter? Beispiel: Facebook. Das Facebook-Universum ist heute viel mehr als nur die “blue App” und hat im letzten Jahrzehnt eine interessante Entwicklung durchgemacht:

2011

wurde Facebook immer stärker als Protesttool genutzt. Der Arabische Frühling, Occupy Wallstreet sowie später der Women’s March und die noch heute die Klimastreiks wurden alle zu grossen Teilen über das Soziale Netzwerk organisiert. Auch in der Schweiz profitiert etwa die Plattform wecollect.ch von der enormen Reichweite beim Sammeln von Unterschriften für Initiativen und Referenden.

2012

ging Facebook auf Druck der Investoren an die Börse und startete sein zweites Wahlexperiment. Im Rahmen der U.S. Wahlen war der “I voted” Button auf den Facebook-Timelines seiner Nutzer für einen signifikanten Mobilisierungseffekt verantwortlich.

2013

kündigte Facebook an, die perfekte personalisierte Zeitung auf der ganzen Welt werden zu wollen und gab News-Artikeln fortan ein höheres Gewicht und damit eine höhere Visibilität auf den Timelines seiner Nutzer. Der hohe Anteil geteilter News auf den Timelines wiederum führte zu einer Politisierung des Newsfeeds.

2014

investierte Facebook in sein Tracking- und Zielgruppen-Management. Der Audience Manager für Werbetreibende wurde um viele Publikums-Attribute erweitert und dank unterdessen flächendeckend eingebundener Social-Buttons konnten nun auch Besucher spezifischer Websites oder angesprochen werden.

Tech-Konzerne überlegen opportunistisch. In Zeiten der Aufmerksamkeitsökonomie und im Sinne ihrer Werbeeinnahmen geht es ihnen um die Maximierung von Reichweite, Verweildauer und Interaktion. Dies führt zu einer Unberechenbarkeit für Medien, PolitikerInnen und weitere zivilgesellschaftliche Akteure. (A. Fichter)

Kurz nachdem bekannt wurde, dass Medien algorithmisch bevorzugt würden, schossen erste alternative Medienportale aus dem Boden. Innert weniger Minuten ist die neue Domain registriert, der WordPress-Blog aufgesetzt und die Anmeldung beim Facebook Audience Program gemacht. Und schon sind der Libertywriter, der Political Insider oder der Denver Guardian geboren und können A/B testen, ob ihnen nun erfundene Schlagzeilen mit Trump oder Hillary mehr Besucher bescheren.

Blue Feed, Red Feed

Quelle: http://graphics.wsj.com/blue-feed-red-feed

Schützenhilfe bekamen die Fake-News-Sites dabei von polarisierten Netzbürgern einer bereits tief gespaltenen Bevölkerung mit Zweiparteiensystem. Gefangen in ihrer eigenen Filter Bubble verbreiteten sie die Inhalte ihres Lagers fleissig im persönlichen Netzwerk und bescherten den Betreibern der Fake-News-Sites durch die hohe Verbreitung und den hohen Traffic einen monatlichen Umsatz von USD 10’000 bis 40’000.

Die Algorithmen der Social Media und Tech-Giganten bewerten nicht Inhalte sondern Metadaten wie Likes, Shares und Reaktionen. Es profitiert, wer Lärm macht. Polarisierung, Fake News und Populismus sind die Folgen. (A. Fichter)

Das lukrative Geschäftsmodell rief schnell zahlreiche Nachahmer auf den Plan, sodass der Anteil an Fake News denjenigen der Mainstream News aus den renommierten Medienhäusern bis zum Wahltag im November 2016 sogar überholte.

Anteil Fake News vs. Mainstream News

Quelle: https://www.buzzfeednews.com/article/craigsilverman/viral-fake-election-news-outperformed-real-news-on-facebook

Noch kommt der Grossteil des Traffic auf Newsportalen in der Schweiz von der Startseite oder Suchmaschinen her, während LeserInnen in den USA schon seit Jahren fast nur noch Social Links folgen. Was aber, wenn sich dies auch hierzulande ändert? Zeit für eine erste Diskussionsrunde im Plenum.

Wie wäre mit der wissentlichen Verbreitung von Desinformation in der Schweiz umzugehen?

  • Soll dagegen geklagt werden können analog dem Netzwerkdurchsetzungsgesetz (NetzDG) in Deutschland oder den hiesigen Straftatbeständen der Üblen Nachrede, Verleumdung oder Beschimpfung?
  • Braucht es eine Behörde, die den Wahrheitsgehalt (politischer) News überwacht und Fake-News-Sites sanktioniert analog dem Preisüberwacher oder dem Datenschutz- und Öffentlichkeitsbeauftragten?
  • Ist eine stärkere Forderung im Rahmen der Schulbildung die Medienkompetenz und Quellenkritik ein Muss?
  • Oder genügt die Sensibilisierung der Öffentlichkeit durch konsequente Thematisierung in den öffentlichen Medien und entsprechende Kulturangebote?

GAFAM bilden ein Oligopol und werden aufgrund von Netzwerkeffekten immer mächtiger. Das führt zu einer geringeren Vielfalt des Internet per se, zu immer mehr Abhängigkeit von den Grossen und zum Tod des digitalen Wettbewerbs. (A. Fichter)

Wenn eine (Werbe-)Botschaft nicht ziellos gestreut und im Vertrauen auf ihren skandalösen Inhalt durch soziale Netzwerkeffekte viral verbreitet werden soll, gibt es da auch noch die Möglichkeit des Microtargeting zur gezielten Ansprache einer Micro Audience, also eines extrem genau definierbaren Zielpublikums. Anders als öffentliche Plakat- oder Inseratkampagnen sind sogenannte Dark Ads im Web und auf Social Media nur sehr schwer nachzuvollziehen.

YouTube Video

VICE News: All The Hidden Ways Facebook Ads Target You (YouTube)

Die politische Debatte findet so nicht mehr im öffentlichen Raum statt, sondern in individualisierten Werbezonen innerhalb der persönlichen Filterblasen, wo beispielsweise Demobilisierungsstrategien mittels Negativkampagnen nachweislich besonders gut funktionieren. Es drängt sich die Frage nach der Verantwortung auf: Liegt diese beim Einsatz hyperpersonalisierter Werbung und unerfüllbarer individueller Wahlversprechen eher beim Verführer (Facebook) oder beim Verführten (Werbetreibende, Parteien)?

Es gibt zu wenig Transparenz über den Datenhandel der sozialen Netzwerke und der Digitalwirtschaft allgemein, keine demokratische Kontrolle durch Politik, Medien oder Forschung und noch keine globale Regulierung der Digitalkonzerne. (A. Fichter)

Civic Tech: Technologie im Dienst der BürgerInnen

Für den zweiten thematischen Abschnitt fehlte uns aufgrund der engagierten Diskussionen in Teil 1 leider etwas die Zeit. Dennoch will ich kurz ein paar Fragen erwähnen, mit denen sich Civic Tech beschäftigt:

  • Wie können Engagement und Beteiligung von BürgerInnen durch Technologie gestärkt werden?
  • Lässt sich das Allgemeinnwohl durch “demokratiefreundlichen” Technologieeinsatz nachhaltig steigern?
  • Wie lassen sich künstliche Intelligenz und Machine Learning zur Förderung der Diversität politischer Meinungen einsetzen?
  • Wie können aus einer grossen Menge an Stellungnahmen aus der Zivilbevölkerung automatisch Argumente extrahiert und verschiedenen Haltungen zugeordnet werden?

Politik, Zivilgesellschaft und Forschung müssen Transparenz und Verantwortlichkeit für Algorithmen verlangen. Es braucht eine Diskussion darüber, welche Kontrollmechanismen sowie Checks-and-Balances-Systeme installiert werden müssen. Und es braucht eine Vision: Wie können wir das Internet und die Digitalwirtschaft insgesamt demokratischer gestalten? (A. Fichter)

Adrienne hat verschiedene spannende Beispiele aus diesem Bereich recherchiert:

YouTube Video

Pia Mancini: How to upgrade democracy for the Internet era (YouTube)

  • democracyos.org ist Open-Source Software zur Unterstützung von Liquid Democracy
  • dcentproject.eu Decentralised Citizens ENgagement Technologies (D-CENT) ist eine Open-Source Tool-Suite zur Unterstützung von Bürgerprojekten wie decidim.barcelona, decide.madrid.es und betrireykjavik.is auf welchen die Bevölkerung Ideen sammeln, darüber abstimmen und Behörden über dringende Anliegen informieren kann.
  • pol.is ist nutzt KI-Methoden zur Analyse und Identifikation verschiedener Meinungs-Cluster innerhalb allgemein-öffentlicher oder organisations-interner Diskursplattformen. 2016 konnte das System beispielsweise der Regierung von Taiwan ein Meinungsbild zum Thema Markteintritt von Uber vermitteln, um frühzeitig flankierende Massnahmen in die Wege leiten zu können.

Zusammenfassend nennt Adrienne folgende vier Prinzipien für demokratiefördernde Technologien:

  1. Offener Programmcode (Open Source)
  2. Unabhängigkeit von Anbietern und Dezentralität von Systemen
  3. Persönlicher Besitzt von und Kontrolle über Identität (Decentralized Identity)
  4. Hoheit der Daten bei BürgerInnen

Technologie ist nie neutral. Es gibt unterschiedliche und widersprüchliche Designprinzipien und Werte, die man in Technologie hinein programmieren und verankern kann. Privacy by Design, Security by Design, Open Source, User Control und End-to-End Encryption haben sich bisher als “demokratiefördernde” Prinzipien erwiesen. (A. Fichter)

Netzpolitische Debatte zu Contact Tracing

Im dritten Teil beschäftigten wir uns aus aktuellem Anlass mit dem Thema Contact Tracing, also dem Nachverfolgen von sozialen Kontakten, speziell im Rahmen der Corona-Pandemie-Eindämmungsbemühungen.

Die Republik hat dem Thema schon zwei Artikel [1, 2] gewidmet und Adrienne wiederholte nochmals die Kritikpunkte am bisherigen Vorgehen des Bundes, der sich gestützt auf die COVID-19-Verordnung 2 und in Berufung auf die “ausserordentliche Lage” (Art. 7 EpG) und den Umgang mit “Standortdaten” (Art. 45b FMG) von der Swisscom anonymisierte aggregierte Bewegungsdaten zukommen liess:

  • Top-Down-Ansatz ohne demokratischen Diskurs
  • Veröffentlichung der Verordnung erst auf Anfrage mehrerer Journalisten
  • Nutzer treten das Verwendungsrecht der Standortdaten durch Zustimmung zu den allgemeinen Datenschutzbestimmungen der Service-Anbieter pauschal ab anstatt aktiv zuzustimmen.
  • Implizite Zustimmung muss via Opt-Out zurückgenommen werden anstatt auf Opt-In zu setzen

Nach einem kurzen Abriss über die Funktionsweise eines dezentralen vs. zentralen Systems zur Verwaltung von Proximitätsdaten nutzten wir die verbleibende Zeit für unsere Lieblingsbeschäftigung im Studiengang: Die Diskussion. 😉

So war es dann auch kaum verwunderlich, dass sich rund die Hälfte der Studierenden wie inzwischen üblich nach dem offiziellen Unterrichtsende bei einem verdienten Feierabenddrink vor der Webcam zusammen mit Cornelia und Adrienne noch eine knappe Stunde lang weiter unterhielten, u.a. über…

  • Privacy by Trust vs. Privacy by Design:

    • Vertrauen wir lieber den Behörden unsere Daten an oder setzen wir auf die Freiwilligkeit jedes und jeder Einzelnen bei jedem Schritt? Übrigens: Alle bis auf zwei Studierende gaben an, unter den aktuellen Voraussetzungen eines dezentralen Systems die offizielle App nutzen zu wollen, während offizielle Zahlen derzeit von einer Quote von lediglich 20-30% ausgehen.
  • Nicht-Diskriminierung:

    • Solchen, die nicht mitmachen wollen oder können, darf kein Nachteil entstehen. Auch nicht indirekt, indem sie beispielsweise selbst für die Kosten eines COVID-Tests aufkommen müssten, während die Kosten von Teilnehmenden durch die Krankenkassen getragen würden.
  • Manipulationsgefahr:

    • Mit einem Bluetooth-Logger könnten parallel zur offiziellen App alle Geräte in Reichweite (inkl. gesendeten Klardaten wie dem Gerätenamen) aufgezeichnet werden, was einen späteren Abgleich und die Identifikation des bestätigten Infektionsfalls ermöglichen könnte. Der Upload einer bestätigten Infektion mit nachgelagerter Alarm-Kette durch die App müsste via einmaligem zeitlich beschränktem Token so gut gesichert sein, dass keine Missbrauchsmöglichkeit durch “Spassvögel” besteht, zumal sie keine sozialen Repressionen zu befürchten hätten, weil ihr Name nicht kommuniziert würde.
  • Datenspenderausweis:

    • Warum gibt es analog zum Organspenderausweis eigentlich noch keinen Datenspenderausweis, dem Behörden und Forschungseinrichtungen entnehmen könnten, welche Daten ich wem und zu welchem Zweck zur Verfügung stelle?
  • Recht auf Vergessen:

    • Die nun im Rahmen der Pandemiebekämpfung erhobenen Daten müssten zwingend laufend gelöscht werden, sodass später in Verbindung mit anderen Datenquellen keine De-Anonymisierung geschehen könnte (auch nicht aus Versehen). Der Bund wird sich dazu äussern, aber wer versichert uns dies von Seite der Plattformen wie Apple und Google? Und überhaupt: Wie lange soll die App genutzt werden?

Vielen Dank für die spannenden Einblicke und angeregten Diskussionen, Adrienne! 👏

Die Dozentin

Adrienne Fichter hat Politologie studiert und baute 2009 als Mitgründerin und Community-Managerin das Schweizer Polit-Start-Up politnetz.ch auf. 2017 gab sie beim Verlag NZZ Libro das Buch Smartphone-Demokratie heraus, schreibt unterdessen als Redakteurin beim Medienmagazin Republik über politik- und gesellschaftsrelevante Tech-Themen und lehrt als Dozentin an der Universität Zürich und an der FH St. Gallen.