Big Data Ethics – Ethik im Zeitalter der Digitalisierung
Mai 24, 2017
Aus dem Unterricht des CAS Digital Risk Management mit Andreas von Gunten berichtet Anja Pavlovic:
Andreas von Gunten, Unternehmer mit zahlreichen verschiedenen Positionen bei verschiedenen Unternehmen, bringt der Klasse CAS-DRM-17 am 19. Mai 2017 das ethische Verständnis im Kontext zur Digitalisierug näher und gliedert den Unterrichtstag folgendermassen:
- Was ist Ethik?
- Ethik und Bezug zu Big Data
- Begriff “Ethical Blindness”
- 5 Beispiele von Big-Data-Anwendungen in Unternehmen
- Ethische Aspekte im technologischen Wandel
- Handlungsoptionen
1. Was ist Ethik?
In der Ethik geht es im Allgemeinen um gesellschaftliche Normen, moralisches Handeln, Prinzipien und Werten. Die Ethik ist die “Wissenschaft von Moral”.
Sie beschäftigt sich mit der Herkunft von Werten, deren zu Stande kommen und Aushandeln innerhalb einer Gesellschaft. Es sind die inneren Überzeugungen und Werte, nach denen man sich verhalten soll und die von der Gesellschaft beeinflusst werden. Menschen sollen sich integer, d.h. den eigenen Werten und Normen entsprechend Verhalten und sich in einer Gesellschaft so positionieren, wie sie es für richtig halten. Dabei passt man sich auch ein stückweit der Gesellschaft an. In einer vielschichtigen Gesellschaft mit verschiedenen Glaubensrichtungen ist es sehr wichtig, seinen eigenen inneren Wertkompass zu entwickeln. Dabei ist es unumgänglich, sich mit seinem Wertkompass auseinanderzusetzen und auch begründen zu können, warum man gewisse Wertvorstellungen hat.
- Wie können verschiedene ethische Vorstellungen in Einklang gebracht werden?
- Wie kann eine Gesellschaft zum gemeinsamen Verständnis von richtig oder falsch kommen?
Das ist möglich indem…
- …Menschen bereit sind, über ihre eigenen Vorstellungen und Meinungen und auch die der Gesellschaft zu diskutieren, argumentieren und ihre Meinung zu vertreten.
- …die Situation kontextabhängig angeschaut wird. Ein “richtig” kann in einer komplett anderen Situation u. U. auch ein “falsch” sein.
Andreas von Gunten ist der Meinung, das nur mit einer Begründung und klaren Vertretung der eigenen Meinung und des eigenen Denkens Ethik funktioniert. Menschen tendieren dazu, ihre eigenen moralischen Vorstellungen als richtig anzusehen ohne Begründung! Menschen müssen über gewisse Dinge reden und immer wieder neu begründen, warum man was denkt. Ethik funktioniert nur mit Begründung, nur so kommt eine Gesellschaft weiter und zu einem gemeinsamen Verständnis.
Grundlage von “richtig” und “falsch” sind die eigenen inneren Vorstellungen, die immer wieder neu ausgehandelt werden müssen, die durch die Gesellschaft beeinflusst werden und – ganz wichtig – kontextabhängig sind.
2. Ethik und Bezug zu Big Data
Welche Rolle spielt Ethik nun im Zeitalter des technologischen Wandels und der Digitalisierung? Die Digitalisierung von heute heisst nicht nur, dass wir ein bisschen mehr Informationstechnologie haben, nein, die Menschheit befindet sich aktuell in einem gravierenden technologischen Umbruch. Gemäss A. von Gunten wird den Menschen das Fundament weggezogen und alles muss neu ausgehandelt und in Frage gestellt werden.
Die ethischen Fragen ändern sich mit dem Wandel und auch der Kontext verändert sich:
- Sollen einem Roboter Rechte zugestanden werden?
- Sollen einem Roboter Pflichten gegeben werden?
- Wer trägt die Verantwortung für künstliche Intelligenz?
Solche Fragestellungen müssen miteinander diskutiert, abgewogen und in gemeinsamen Gesprächen beantwortet werden – d. h. ethische Vorstellungen und Moral müssen neu ausgehandelt werden.
3. Ethical Blindness
Von “Ethical Blindness” ist die Rede, wenn man zu voreiligen Schlüssen und Urteilen kommt ohne den gesamten Kontext betrachtet zu haben.
Grundsätzlich tendieren die Menschen dazu, für moralisch falsche Handlungen einen Schuldigen zu suchen, ohne sich mit der gesamten Situation auseinandergesetzt zu haben. Z.b. ist es falsch, dass ein erwachsener Mann in ein Haus einbricht und Essen stiehlt. Wenn aber der Gesamtkontext betrachtet wird und der Mann gestohlen hat, um seine Familie vor dem Hunger zu bewahren kann etwas falsches plötzlich legitim wirken.
Das Konzept der “Ethical Blindness” sagt, dass es nicht immer einfach ist zu sagen, wer die Schuld an schlechten Ereignissen trägt. Moralische Urteile sind immer kontextabhängig und müssen mit Argumenten begründet werden.
Das Paper von Palazzo, Krings und Hoffrage über Ethical Blindness verlässt die Welt der rationalen Entscheidungen. Es sei eine Illusion, alle Entscheidungen vernünftig durchzudenken und dann zu entscheiden zu können, da die Menschen immer durch Emotionen, Vorstellungen und Situationen beeinflusst werden. Ein Richter bespielsweise geht nicht strikt nach dem Gesetz sondern berücksichtigt im Einzelfall alle Aspekte, die mit der Tat zusammenhangen und entscheidet erst dann über richtig oder falsch. Deswegen räumen uns unsere Gesetze auch so viel Handlungsspielraum ein.
Framing
Egal was wir beurteilen, wir sind immer in einem Frame drin. Je enger der Frame ist, desto mehr besteht die Gefahr, dass moralische Aspekte nicht beachtet werden. Was kann man dagegen tun?
- Bewusst werden, dass alle Entscheidungen auf einem bestimmte Frame basieren.
- Wenn dies erkannt ist, soll man sich selber eigene Frames setzen! Diese sollen aber auch nicht zu eng werden.
In einer Organisation oder einem Team ist es wichtig, die Gruppe zu stärken ohne dabei einen zu engen Frame zu bauen. Die eigene Meinung darf in der Gruppe nicht untergehen. Da besteht jedoch die Gefahr, dass man seine Meinung nicht äussert, wenn man als einziger aus der Reihe tanzt. Jeder muss für sich selber überlegen, was für ihn richtig und falsch ist und muss dies ganz klar kommunizieren, um die Gruppenstruktur zu begünstigen.
Da es für eine Gesellschaft schwierig ist, etablierte Meinungen und Vorstellungen zu brechen ist es wichtig, immer seine eigene Meinung zu halten, diese zu begründen und zu verteidigen. Nur so kommt eine Gesellschaft weiter.
4. Fünf Beispiele von Big-Data-Anwendungen
Big Data wird als die Analyse von grossen Datenmengen definiert, deren Auswertung zweckgebunden und zielgerichtet genutzt werden kann. Big Data hat neue Dinge ermöglicht, die vorher unvorstellbar gewesen sind und damit stellen sich auch schwierige ethische Fragen wie Aspekte der Privatsphäre, des Datenschutzes und der Selbstbestimmung der eigenen Daten.
Wie kann Big Data in Unternehmen verwendet werden?
- Debitorenausfälle verhindern: Die Bonität der Kunden kann mit Big Data effizienter überprüft werden. Nachteile davon sind allenfalls vordefinierte Muster wie schlechtere Bonitätseinstufung von Personen, die in gewissen Gebieten leben ohne andere Aspekte anzuschauen. Hier besteht die Gefahr von einer falschen Beurteilung.
- Risikomanagement verbessern: Versicherungen können durch Big Data ihre Risiken schneller beurteilen und managen. Auch hier besteht die Cluster-Gefahr, dass grosse Risiken zusammen bleiben und Personen nach gewissen Mustern in eine falsche Risikokategorie eingestuft werden.
- Angebotskonditionen massschneidern: Mit Big Data kann Konsumentenverhalten analysiert werden. Warenhäuser bieten guten Kunden ihre Lieblingsprodukte zu Discountpreisen an. Hier stellt sich die Frage, ob somit andere Kunden diskriminiert werden.
- Effizienz der Werbemassnahmen steigern: Durch Big Data können Kundengruppen gezielter angesprochen werden. Ethisch fragwürdig ist eher, ob durch “Emotional Targeting” die Gefühle der Kunden eruiert werden können.
- Innovationen hervorbringen und neue Umsatzquellen erschliessen: Unternehmen werden durch Big Data in ihrer Produktentwicklung unterstützt und die Innovation wird gefördert.
Zusammengefasst: Mit Big Data ist vieles möglich! Vieles muss aber auch ethisch und moralisch angeschaut werden.
5. Ethische Aspekte
Von den Möglichkeiten für Unternehmen mit Big Data kommen wir nun zu den ethischen Aspekten:
- Schutz der Privatsphäre: Wie schütze ich meine Daten und meine Privatsphäre? Vielleicht ist das Konzept der Privatsphäre aus den 70ern mit der heutigen Digitalisierung überholt? Alles, was wir im Internet publizieren, machen wir bewusst öffentlich. Die Privatsphäre ist am technologischen Fortschritt gekoppelt und ändert sich so auch mit der Zeit.
- Gleichheit und Nicht-Diskrimierung: Gleichheit bedeuet in diesem Kontext, dass alle mit den gleichen Möglichkeiten Zugang zu Systemen und Informationen haben sollen. Eine Nichtdiskriminierung aufgrund von z. B. der Rasse oder Religion darf nicht passieren. Wie oben bereits erwähnt, kann es durch Big Data Diskriminierung z.B. in der Bonitätsbeurteilung und Kreditvergabe geben. Auch mit den besten Algorithmen kann man menschliches Verhalten nicht voraussagen. Man muss vorsichtig sein mit Entscheidungen aufgrund menschlichen Verhaltensmuster.
- Informationelle Selbstbestimmung: Hier geht es über die Selbstbestimmung eigener Informationen. Wie soll man Eigentum von etwas bestimmen, was physisch nicht vorhanden ist? Diese Frage kann mit dem Begriff “Kopie” beantwortet werden. Jeder kann sich ein Recht auf eine Kopie einräumen, um die Daten zu nutzen. Die Lösung ist: MyData. Jeder muss die Möglichkeit haben, über Daten zu verfügen, einzusehen und zu kopieren und zu gebrauchen. Werden die eigenen Daten weitergegeben wird MyData zu OpenData (alle dürfen die Daten nutzen).
- Kontrolle der eigenen (digitalen) Idenität: Je mehr Daten über die eigene Person gesammelt werden desto schwieriger wird es zu kontrollieren, was damit gemacht wird. Wenn dies nicht mehr zutrifft, verliert man die Kontrolle über die eigene Identität.
- Transparenz: Es ist wichtig, dass die Datenverarbeitung und -analyse für alle transparent gemacht wird und die Leute die Möglichkeit haben, darüber zu entscheiden und einzuwilligen, was mit ihren Daten gemacht wird.
- Solidarität: Der Solidaritätsgedanke muss im Wandel überdacht werden.
- Kontextuelle Integrität: Wie mehrfach erwähnt, ist die Einzelfallbeurteilung im Kontext sehr wichtig.
- Eigentums und Urheberrecht: Der Begriff Dateneigentum ist mit Vorsicht zu behandeln. In der digitalen Welt kann man die Sache nicht wegnehmen wie in der physischen Welt! Der andere hat die Daten immer noch, sie werden lediglich kopiert. Das Konzept des Eigentums muss in der Datenwelt neu angeschaut werden.
6. Handlungsoptionen
- Die Menschen müssen sich im persönlichen Verhalten, als Teil von Organisationen und als Bürger eines demokratischen Systems mit Big Data auseinandersetzen.
- Neben dem Business Case muss IMMER auch der Ethical Case betrachtet werden.
- Idealerweise können Individuen einer Datenverarbeitung/-erhebung zustimmen (Opt-In), sollen mindestens aber die Möglichkeit haben, auszusteigen (Opt-Out).
- Transparenz herstellen
- Privacy by Design: Datenschutz muss von Anfang an ins System gebracht werden.
Vielen Dank, Andreas von Gunten, für den interessanten Unterrichtstag!