Sie hat die Deutschen durch die härtesten Entscheidungen der Pandemie begleitet, sitzt im Expertengremium der WHO zur Genom-Editierung und forscht an der Schnittstelle von Medizin, Philosophie und Künstlicher Intelligenz: Alena Buyx gehört zu den wenigen Menschen, die komplexe ethische Fragen nicht nur denken, sondern auch erklären können, ohne sie kleinzumachen.
Im Gespräch geht die 48-jährige Professorin für Ethik in der Medizin an der TU München darauf ein, inwiefern technologischer Fortschritt eine permanente Gewissensfrage ist und warnt vor KI als "Dual-Use-Technologie", die sowohl bereichern als auch schaden kann.
*****
LEADERSNET: Sie haben Medizin, Philosophie und Soziologie studiert, an Harvard, Oxford, Münster und London gearbeitet – und standen dann mitten in der Corona-Pandemie als Vorsitzende des Deutschen Ethikrats vor den Kameras des ganzen Landes. War das der Moment, in dem Sie begriffen haben, dass Ethik nicht nur akademische Disziplin, sondern notwendig für den gesellschaftlichen Zusammenhalt ist?
Alena Buyx: Dass Ethik nicht nur akademische Disziplin ist, weiß ich seit Studientagen – aber spätestens seit den ersten konkreten Erfahrungen mit klinischer Ethikberatung im Krankenhaus, die für Ärzte wichtig und für Patientinnen und Patienten teils lebensverändernd sein kann.
Entsprechend haben auch wir damals vom Ethikrat immer auf die gesellschaftliche Seite der Pandemie hingewiesen. Offen zu legen, welche Kriterien ethischen Abwägungen zugrunde liegen, hilft zu verstehen, warum bestimmte Entscheidungen schwierig sind. Und das wiederum hat positive Effekte auf den gesellschaftlichen Zusammenhalt, weil es Vertrauen stärken kann.
LEADERSNET: Sie erleben seit Jahren, wie technologische Entwicklungen immer schneller werden; sei es Künstliche Intelligenz, Genom-Editierung oder digitale Medizin. Gibt es einen wissenschaftlichen Fortschritt, bei dem Sie persönlich innehalten und denken: "Nur weil wir es können, heißt das noch lange nicht, dass wir es tun sollten"?
Alena Buyx: Die Genom-Editierung an menschlichen Embryonen 2018 durch den chinesischen Forscher He Jiankui war so ein Moment bei mir; das hat ja die gesamte Wissenschaftsgemeinschaft bewegt. Und auch aktuell immer wieder, wenn ich darüber nachdenke, wie rasant Entwicklungen der künstlichen Intelligenz sind – und dass wir sie ja dennoch verantwortlich in den Bereich der Medizin übertragen müssen, statt einfach alles zu machen, was möglich ist. Dieser Gedanke des Gestaltens und Nachdenkens, das ist ja die ethische Ur-Frage: "Was sollen wir tun?"
LEADERSNET: Genau dieser Frage haben Sie einen eigenen Forschungsansatz gewidmet: "Embedded Ethics" – die Idee, dass ethische Überlegungen nicht im Nachhinein auf Innovationen aufgepfropft werden, sondern von Anfang an mitgedacht werden müssen. Wie weit sind Medizin und Tech-Branche heute davon tatsächlich entfernt und wer hat mehr Nachholbedarf?
Alena Buyx: In der Medizin läuft das inzwischen ziemlich gut, finde ich. In Deutschland und Europa etwas zu schwerfällig und langsam, aber das wird sich hoffentlich bessern. In der deutschen und europäischen Tech-Branche treffe ich auch auf viele Menschen, die sich Gedanken machen, was ihre Technologien Tolles können und welche Fragen sie gleich von Anfang an stellen müssen, damit das technologisch wie ethisch beste Produkt herauskommt.
Das liegt daran, dass Fragen nach wissenschaftlicher und unternehmerischer Verantwortung in unserer Region wichtig und auch regulatorisch abgebildet sind. In anderen Gegenden der Welt hat man manchmal den Eindruck, dass - bewusst oder nachlässig - nicht wirklich vorausgedacht wird, welche Effekte ein Produkt haben kann.
Bild: TU München / Lara Freiburger
LEADERSNET: In einer Ihrer viel zitierten Arbeiten haben Sie 2019 die ethischen Implikationen von KI-gestützter Therapie in der Psychiatrie untersucht. Seitdem ist KI in die Wohnzimmer unserer Gesellschaft eingezogen: Menschen reden täglich mit KI über ihre Ängste, ihre Einsamkeit, ihre Krisen. Ist das für Sie ein Warnsignal oder kann Menschen dadurch geholfen werden, ihr Leben besser in den Griff zu bekommen?
Alena Buyx: Beides. Es gibt wirklich tolle Tools, die spezifisch trainiert sind und die, immer in gemeinsamer Anwendung und Begleitung mit Profis, sehr gut helfen können. Und es ist ja an sich zunächst einmal nichts Schlimmes, wenn Menschen mit der KI auch über innerliche Dinge "sprechen" – solange klar ist, dass es hier um einen Austausch mit einer statistischen Maschine geht, die nicht denken und fühlen kann, und nicht um ein Gespräch mit einem echten Gegenüber.
Gleichzeitig ist es kein Zufall, dass inzwischen der Fachbegriff der "KI-induzierten Psychose" existiert. Es kommt immer wieder vor, dass Algorithmen bei Menschen wahnhafte Vorstellungen verstärken, befördern oder sogar hervorrufen.
Schließlich: Dass die Nutzung von KI für irgendeine Art von Beziehung gegenwärtig die häufigste ist, zeigt natürlich, dass sich die zunehmende gesellschaftliche Vereinzelung, die sich in den großen Studien zeigt, auch im KI-Nutzungsverhalten widerspiegelt. Vielleicht ist die ständige Verfügbarkeit von KI Chatbots sogar einer der Gründe dafür. Das ist aber noch unklar.
LEADERSNET: Welche ethische Frage der nächsten zehn Jahre bereitet Ihnen persönlich am meisten Kopfzerbrechen – nicht als Vorsitzende eines Gremiums, sondern als Mensch?
Alena Buyx: Wie wir den Hype um KI überführen in eine Nutzung dieser einerseits fantastischen, andererseits teils durchaus auch gefährlichen Technologiefamilie, die uns als Menschen und als Gesellschaften dient und nicht so viele Probleme mit sich bringt.
KI ist eine Art Dual-Use-Technologie, also kann sie unser Leben besser machen, hat gleichzeitig aber auch zerstörerisches Potential. Ich bin froh, in Deutschland und Europa zu leben, wo es ein echtes Bemühen gibt, den Umgang mit dieser Technologie gut zu gestalten. Denn das muss man.
LEADERSNET: Nach all den Krisenjahren, den Debatten, den Angriffen und der permanenten Öffentlichkeit: Was gibt Ihnen heute noch Zuversicht, wenn Sie auf den Zustand unserer Gesellschaft blicken?
Alena Buyx: Jeden Tag ganz viel, vor allem die vielen tollen Leute, denen ich andauend begegne, die wahnsinnig gute Ideen haben, die sich einbringen, die etwas Gutes für alle wollen – das macht mich immer wieder froh.
>
Kommentar veröffentlichen