Das Problem der «Blackbox»

Wissenschaft und Technik im Dienst der Menschheit

Bioethik ist ein Feld, das in den letzten Jahrzehnten stark gewachsen ist. Es geht um den Umgang mit dem Leben, insbesondere in den verletzlichen Phasen des menschlichen Lebens, am Anfang und am Ende. Im Zentrum steht die Behandlung von Patienten angesichts neuer Technologien wie zum Beispiel der Genetik oder Neurotechnologie. Kirche ohne Grenzen hat mit Dr. Roberto Andorno von der Universität Zürich über Bioethik, die Probleme des genetischen Fortschritts und die Umsetzung von Künstlicher Intelligenz (KI) in der Medizin gesprochen und wie die Ethik mit der Spiritualität verbunden ist. 

Gibt es aktuelle Entwicklungen in Bezug auf die Menschenrechte im Zusammenhang mit Fortschritten in der Genetik?
Genetische Fragen wurden bereits in den letzten 20 Jahren behandelt und geregelt. In der Schweiz gibt es seit 2004 ein Gesetz über Gentests. In diesem Bereich besteht unter anderem das Risiko, Daten von Gentests für Diskriminierungszwecke zu verwenden. Zum Beispiel könnten bestimmte Menschen von einem Job ausgeschlossen werden, nur weil sie eine bestimmte Veranlagung haben, obwohl Veranlagungen keine sicheren Prognosen liefern. Es gibt auch den Bereich der Gentechnik, der sich mit Themen wie der Manipulation des menschlichen Genoms befasst. Dort wird die genetische Information der Fortpflanzungszellen oder die des Embryos verändert, was zu grossen Problemen führen kann. Es gibt zwei Möglichkeiten, genetische Information zu verändern: Die eine heisst «somatische Gentherapie». Das bedeutet die Veränderung in den Körperzellen. Diese zeigt Erfolge bei der Krankheitsbehandlung. Gefährlicher ist die andere Methode, die «Keimbahnveränderung», bei der die Zellen von Gameten oder Frühembryonen genetisch verändert werden, sodass das Genom aller Nachkommen irreversibel verändert wird.

Kann das Fehlen von Normen zur Regelung des angemessenen Einsatzes von KI beim Menschen die Identität des Einzelnen einschränken?
Nein, ich glaube nicht, dass es so sehr eine Frage der Identität ist. Bei der KI  besteht das Problem eher in möglichen Fehlern bei Diagnosen oder Behandlungen. Zunächst einmal ist es wichtig zu betonen, dass KI-gestützte Geräte grosse Vorteile bieten. Sie erlauben viel schnellere und präzisere Diagnosen und Behandlungen, da sie auf einer unglaublich grossen Menge von Daten basieren. Allerdings weiss man nicht genau, ob es algorithmische Verzerrungen gibt. Das ist das Problem der «Blackbox»: Niemand, nicht einmal die Hersteller selbst wissen, wie die Diagnose oder das Ergebnis genau zustande kommt. Transparenz wird gefordert, ist aber nicht immer zu 100 Prozent erreichbar.

In Ihrem Buch «Bioética y dignidad de la persona» («Bioethik und Würde des Menschen») sprechen Sie von scheinbarem und wirklichem Fortschritt. Können Sie mir sagen, wie sich der letztgenannte Fort­schritt mit der Spiritualität des Menschen verbindet?
Im Buch beziehe ich mich auf den Unterschied zwischen scheinbarem und wirklichem Fortschritt. Ich denke, dass Wissenschaft und Technologie im Dienst des Menschen stehen und zum menschlichen Wohlergehen beitragen sollen. Wirklicher Fortschritt ist derjenige, der uns letztlich hilft, bessere Menschen zu werden und unser Potenzial – insbesondere unser moralisches Potenzial – zu entwickeln, was auch das allgemeine Ziel von Ethik und Spiritualität ist. Denken wir zum Beispiel nur an die Verwendung von Mobiltelefonen. Sie sind in vielen Bereichen sehr nützlich, aber sie können uns auch süchtig machen und die Menschen voneinander isolieren. In diesem Fall widerspricht der technologische Fortschritt der menschlichen Geselligkeit.

Hat das Fehlen einer geisteswissen­schaftlichen Abteilung an den Fakultäten der verschiedenen Studiengänge zu einer Krise der Ethik und der Moral geführt? 
Es stimmt, dass in den naturwissenschaftlichen Berufen Ethik und Philosophie ziemlich vernachlässigt werden, obwohl sie entscheidend sind, um der Wissenschaft Sinn zu geben. Der technische Fortschritt und die quantitativen Aspekte vernachlässigen die Fragen des Warum 
und Wofür, die nur von den Geisteswissenschaften beantwortet werden können. Natürlich wäre es gut, wenn es schon ab der Sekundarstufe Ethikkurse gäbe, da diese Jahre prägend für die Zukunft der Schülerinnen und Schüler sind. Ich denke, man sollte zu den Klassikern 
zurückkehren, zum Beispiel zu Platon und Aristoteles, die eine Philosophie präsentieren, die im Kern der gesunde Menschenverstand ist.

Interview & Übersetzung: Andrea Metzger, 22.11.24

El problema de la «caja negra»

Ciencia y tecnología al servicio del hombre

Bioética, que significa literalmente ética de la vida, promueve principios para el trato respetuoso del ser humano en el contexto médico, especialmente en las fases más vulnerables de la vida. El bien de los pacientes es central desde el punto de vista ético, sobre todo a la vista de nuevas tecnologías como la genética o la neurotecnología. Kirche ohne Grenzen habló con el Dr. Roberto Andorno sobre bioética, avances genéticos y el uso de la Inteligencia Artificial (IA).

Los avances genéticos contribuyen a mejores diagnósticos, pero también pre-
sentan riesgos. Por ejemplo, los resultados de exámenes genéticos podrían usarse con fines discriminatorios: ciertas personas podrían verse excluidas de cualquier empleo por tener predisposiciones genéticas a ciertas enfermedades. También la ingeniería genética, si busca modificar la información genética de células reproductivas o embriones, crea serios desafíos, ya que los cambios introducidos se transmitirían a las generaciones futuras.

Necesidad de normas para el uso ade-cuado de la IA 
La IA contribuye a mejores y más rápidos diagnósticos, ya que se basa en una enorme cantidad de datos. El problema radica en la falta de transparencia de los algoritmos, ya que no siempre se sabe por qué conducen a una cierta conclusión (es el efecto de «caja negra»). 

Ciencia y tecnología deben contribuir al bien del ser humano
En su libro «Bioética y dignidad de la persona», Roberto Andorno distingue entre progreso aparente y progreso real. No todo nuevo dispositivo tecnológico contribuye necesariamente al bien de las personas. La tecnología no es un fin en sí, sino un medio. Por eso, progreso real es el que, en última instancia, nos ayuda a ser mejores personas, lo cual es también el objetivo de la ética y de la espiritualidad.