Institute for Digital Business

Von Cyborgs und Neuroethik – wie weit wollen wir gehen?

Juni 18, 2020

Zu allen Artikeln

Aus dem Unterricht des CAS Digital Ethics mit Katrin-Cécile Ziegler berichtet Melanie Tschugmall.

«Neil Harbisson – The world’s first legally recognized cyborg» – mit dieser Schlagzeile hat CNN im Juli 2016 wohl für Furore gesorgt – und sicherlich für eine Grossauflage. Gleichzeitig als mediales Unternehmen definiert, was die wissenschaftliche Definition eines Cyborgs ist. Die Grenzen zwischen Mensch und Maschine verschwinden immer mehr. Neurotechnologie und Cyborgs brauchen Neuroethik.  Aber beginnen wir von vorne.

Was Menschen ausmacht.

Katrin-Cécile Ziegler ist Menschenrechtsaktivistin im digitalen Raum und Botschafterin der European Digital Society (EDS, Brüssel). Sie setzt sich  für eine offene und kritische Auseinandersetzung mit Neurotechnologie und somit für Neuroethik ein (Ihr TedTalk dazu). Wichtigste Kernfrage am Unterrichtstag: Was unterscheidet das menschliche Individuum von allem anderen?

“Unsere Persönlichkeit und unser Verhalten. Das sind die Merkmale, welche innovative Technologien bald in erheblichem Masse verändern werden können. Sie greifen zutiefst dort, wo die personale Identifikation und Verhaltensfunktion des menschlichen Lebewesens sitzen: Im Gehirn. Und das wirft neue Fragen auf.” (i.A.a. Saffire 2002 & Paul Root Wolpe 2004)

Neurotechnik ist ein relativ junges, interdisziplinäres Forschungsgebiet. Darunter versteht man die methodische Nutzung von Ingenieurswissenschaft zwecks Erforschung des Nervensystems. Durch das bessere Verständnis können neue technologische Anwendungen gewonnen werden (reverser Ansatz). Bei den sogenannten vorwärts gerichteten Ansätzen steht die Entwicklung von neuen Technologien im Fokus. Diese kommen dann im biologischen System selbst zum Einsatz. Als bekanntes Beispiel die sogenannten BMI (Brain-Computer Interface). Hier wiederum unterscheidet man zwischen invasiv und non-invasiv. Mehr dazu aber später.

Die Ambivalenz der Technik

Wenn wir das so hören und uns mögliche Szenarien ausdenken, sehen wir die Notwendigkeit von Neuroethik (methodische Auseinandersetzung von moralischem Handeln im Kontext von neuralem Engineering). Ein weiterer Punkt ist die Ambivalenz selbst. Neurotechnik gehört nebst nuklearen Waffen und Genetik zu den drei grossen Dual-Use Dilemmas.

“Dual-Use-Dilemmata entstehen, wenn dieselbe wissenschaftliche Arbeit zum Guten verwendet oder missbraucht werden kann, und es unklar ist, wie man Missbrauch verhindern kann, ohne auf nützliche Anwendungen zu verzichten. Der Begriff “Missbrauch” kann unterschiedlich interpretiert werden, wird hier jedoch definiert als jede unethische beabsichtigte Nutzung der Wissenschaft in zivilen oder militärischen Bereichen. Mit einem Ausmaß, dass es sich um einen Kollateralschaden handeln kann.” (Miller S & Selgelid M, Ethical and Philosophical Consideration of the Dual-Use Dilemma in the Biological Sciences, Canberra, 2006)

Sind BMI erst der Anfang?

Kommen wir zurück zu BMI und dem Cyborg. Sprechen wir von nicht-invasive BMI, geht es unter anderem auch um bekannte Anwendungsbeispiele wie MRT. Es geht dabei um das Detektieren von z.B. elektrische Signalen. Mit neuen Methoden, insbesondere Deep Learning, wird sich aber die Fähigkeiten zur Informationsextraktion erheblich verbessern. Ein weiteres Beispiel ist die Unterstützung von Querschnittgelähmten durch einen Roboteranzug. Dieser nimmt die abgeschwächten Signale aus dem Hirn der Patienten auf und steuert über diese Signale das Exoskelett.  Durch Ankopplung an das Nervensystem übernimmt dies die Bewegungsmonitorik. Ein Beispiel hier. Das klingt ja eigentlich alles gar nicht so schlimm und nur positiv, oder? Warum also die Kritik und Sorgen? Was aber, wenn z.B. die Messung der Hirnströme und die persönlichen Daten missbraucht werden? Wird mit dem Exoskelett wirklich dem Patienten selbst geholfen?

Noch einen Schritt weiter gehen die invasiven BMI. Diese z.B. durchdringen die Schädeldecke selbst. Als Beispiel die Implantation von DBS = Deep Brain Stimulation . Es werden dabei durch tiefe Gehirnstimulationen gezielt die Funktion in einem bestimmten Teil des Gehirns verändert. Anwendungsbeispiele können Parkinsonbehandlungen oder aber die Heilung von Depression sein. Und wo ist hier der Nachteil? Wie immer in der Medizin – die Nebenwirkungen. Und diese können in diesem Fall sogar die Veränderung der Persönlichkeit und des Verhalten bedeuten. Hier schliesst sich auch der Kreis zur Ethik wieder, den Neurotechnologie und Cyborgs brauchen Neuroethik.

Vom Menschen zum maschinellen Monstrum?

Solche künstliche Verbesserung des effektiven Menschen lösen in der Wahrnehmung Unsicherheiten und Ängste aus. Häufig assoziieren wir dies mit den sogenannten „Cyborgs“. Viele haben dabei Bilder im Kopf wie etwa Transformer oder gar Frankenstein. Also die Umwandlung von einem Menschen in ein maschinelles Monstrum. Cyborgs sind Realität und nicht mehr nur Hollywood Fantasien. Aber was genau ist ein Cyborg? Ist ein Implantat, wie eine Elektrode, ausreichend um als Cyborg zu gelten? Gemäss Duden gelten Menschen, in deren Körpern technische Geräte als Ersatz oder Unterstützung nicht ausreichend leistungsfähiger Organe integriert sind bereits als Cyborg. Somit genügt eigentlich bereits ein Herzschrittmacher, um als Cyborg zu gelten. Es gibt keine klare, abschliessende Begriffsdefinition. Was aber klar ist – aus anthropologischer Ansicht: ein Mensch bleibt ein Mensch – auch durch die Nutzung von Gehirn-Computer-Schnittstellen.

Cyborgs werfen ethische Fragen auf

Es ist möglich, dass dies einen Einfluss auf seine Persönlichkeit hat, aber er wird nicht zu etwas anderem als einem Menschen. Und was ebenfalls klar ist – wir sind an einer wichtigen Schnittstelle, denn technisch haben wir mehr und mehr Möglichkeiten. Egal ob Computerchips unter der Haut oder eine Antenne im Kopf. Gedachte Grenzen zwischen Menschen und Maschinen verschwimmen immer mehr. Eine Entwicklung, die nicht ohne Risiko ist. Wie weit wollen wir wirklich gehen? Ethische und Gesetzliche Richtlinien und Rahmenbedingungen hinken aber noch hinterher. Der Gap wird immer grösser – Deshalb ist klar Neurotechnologie und Cyborgs brauchen Neuroethik.

 

Dieser Blogbeitrag wurde von einem Studierenden verfasst und beinhaltet subjektive Eindrücke, eigene Darstellungen und Ergänzungen.

Entdecken Sie unsere Kurse zum Thema

Start Februar 2025

CAS Digital Ethics HWZ

  • Cornelia Diethelm
  • 1 Semester (16 Tage, davon 5 Tage Online)
  • Zürich; Sihlhof (direkt beim HB)
Mehr erfahren
Start August 2024

CAS Digital Leadership HWZ

  • Sven Ruoss
  • 1 Semester (16 Tage, davon 5 Tage Studienreise)
  • Zürich; Sihlhof (direkt beim HB)
Mehr erfahren
Start Februar 2025

CAS Digital Marketing Pro HWZ

  • Dominic Stöcklin
  • 4 Monate (2 1/2 Präsenztage)
  • 90% Online
Mehr erfahren
Start August 2024

CAS Social Media und Content Marketing HWZ

  • Dominic Stöcklin
  • 1 Semester (16 Tage)
  • Zürich; Sihlhof (direkt beim HB)
Mehr erfahren

Dein Persönliches Digital Update

Bleibe auf dem Laufenden über die neuesten Entwicklungen der digitalen Welt und informiere dich über aktuelle Neuigkeiten zu Studiengängen und Projekten.