VERANTWORTUNGSVOLLE INNOVATION IN ZEITEN DES WANDELS

Am Bereich Pflege zeigt sich besonders deutlich, wie eng Innovation und Verantwortung verbunden sind. Digitale Assistenten erinnern an Medikamente, Sensoren melden Stürze, KI-gestützte Plattformen entlasten Pflegekräfte. Doch solche Technologien bergen auch Risiken: steigende soziale Ungleichheiten, weniger Selbstbestimmung, Abhängigkeit von Anbietern.

EIN GESRPÄCH MIT NANCY WÜNDERLICH UND MICAELA ALQUEZAR

Das Motto der Berlin Science Week 2025 ist Beyond Now, also über das Jetzt hinausdenken. Mit Blick auf alternde Gesellschaften in Deutschland und Europa: Vor welchen Herausforderungen stehen wir?

Nancy Wünderlich: Alternde Gesellschaften bringen eine Vielzahl an Herausforderungen mit sich. Besonders sichtbar ist die wachsende Lücke zwischen den benötigten und den verfügbaren Ressourcen, sei es bei der Finanzierung des Renten- und Gesundheitssystems oder ganz konkret im Bereich der Care-Arbeit. Hier setzt unser Projekt CaringS an: Wir beschäftigen uns mit dem „Versorgungslücke“, also der Differenz zwischen den Menschen, die Pflege benötigen, und denen, die sie leisten können – professionell oder im privaten Umfeld.

Eine zentrale Herausforderung der kommenden Jahre wird es sein, nachhaltige und gerechte Strategien zu entwickeln, um diese Lücke zu verkleinern. Dazu gehört für uns die Frage, wie wir Technologien verantwortungsvoll einsetzen. CaringS untersucht, wie digitale Lösungen und neue Versorgungsnetzwerke gestaltet, verteilt und implementiert werden können, damit sie allen Beteiligten zugutekommen: den Pflegebedürftigen, den professionell Pflegenden und den Angehörigen.

Die Berlin University Alliance spricht von großen gesellschaftlichen Herausforderungen und Transformationsprozessen, den Grand Challenges. Warum ist Verantwortungsvolle Innovation eine „Grand Challenge“? Was macht diese großen Transformationsthemen, auf die die BUA fokussiert, komplexer als andere Forschungsfragen?

Micaela Alquezar: Ich glaube, dass die Grand Challenges sich durch den besonderen Umfang der Fragestellungen und die Art der Probleme auszeichnen, für die Lösungen gesucht werden. Es handelt sich um Herausforderungen, die Gesellschaften weltweit betreffen und die nur transdisziplinär und mit einer breiten Perspektive auf die verflochtenen Ursachen und komplexen Wirkungen bearbeitet werden können. Responsible Innovation ist deshalb selbst ein Grand Challenge, weil sie diese Eigenschaften teilt. 

Innovationen müssen nicht nur verschiedene Akteure einbeziehen, sondern auch accountable (dt. verantwortlich) gegenüber vergangenen Handlungen sein und eine Zukunftsperspektive entwickeln, um die Auswirkungen ihrer Umsetzung antizipieren und steuern zu können. Besonders komplex ist, dass es nicht allein um technische Lösungen geht, sondern um den Umgang mit Unsicherheiten, möglichen gesellschaftlichen Widerständen, institutionellen Barrieren und Zielkonflikten, etwa zwischen technologischer Effizienz, sozialer Gerechtigkeit und ökologischer Nachhaltigkeit. Diese Komplexität kann nur von Teams aus unterschiedlichen Disziplinen und in enger Zusammenarbeit mit Praxispartnern und Stakeholdern angegangen werden. Zudem erfordert verantwortliche Innovation besondere Prozesse: die frühzeitige Beteiligung der Betroffenen, Transparenz in Entscheidungen, die Berücksichtigung unbeabsichtigter Effekte sowie eine kontinuierliche Bewertung von Risiken und Nutzen.

In Ihrem Projekt CaringS untersuchen Sie digitale Pflege-Ökosysteme. Welche Chancen eröffnen diese für ältere Menschen und ihre Familien, auch in einer Stadt wie Berlin, wo viele Menschen allein leben?

Micaela Alquezar: In unserem Projekt beschäftigen wir uns damit, wie ein digitales Pflegeökosystem sinnvoll implementiert werden kann. Solche Systeme haben großes Potenzial, das Wohlbefinden der Pflegebedürftigen zu erhöhen. Digitale Unterstützung bei alltäglichen Prozessen, wie etwa der Erinnerung an die Medikamenteneinnahme, kann ihre Selbstständigkeit stärken und Abhängigkeiten verringern. Auch digitale Anwendungen, die Gesundheitsdaten sicher bündeln und für Ärzt*innen zugänglich machen, eröffnen die Möglichkeit für individuell zugeschnittene Therapien mit positivem Einfluss auf die Gesundheit.

Oft gelten Innovationen als automatisch positiv. Warum ist es wichtig, diesen Automatismus zu hinterfragen? Was sind Beispiele für Innovationen, die nicht verantwortungsvoll gestaltet sind?

Nancy Wünderlich: Manche Innovationen bringen eine derartige Komplexität mit sich, dass sich ihre Folgen nie vollständig voraussehen lassen. Auch wenn sie mit einem „guten Zweck“ entworfen wurden, heißt das nicht, dass ihre Effekte automatisch positiv sind. Neue Technologien eröffnen Chancen, bergen aber gleichzeitig Risiken wie Überwachung, Verletzungen der Datensicherheit oder wachsende Abhängigkeiten.

Oft sind diese Konsequenzen paradoxer Natur. Dieselbe Technologie kann uns mit anderen verbinden und uns zugleich isolieren. Sie kann helfen, unseren Alltag zu strukturieren, aber gleichzeitig durch ein Übermaß an Informationen neue Formen von Chaos erzeugen. Ein Beispiel sind digitale Dokumentationssysteme in der Pflege: Sie sollen Abläufe vereinfachen, führen in der Praxis jedoch häufig zu zusätzlichem Zeitaufwand und Stress. Damit entsteht das Paradox, dass eine Technologie, die eigentlich entlasten sollte, am Ende belastet. Genau diese Doppelseitigkeit macht es notwendig, Innovationen nicht als per se fortschrittlich zu betrachten, sondern sie kritisch zu begleiten und verantwortungsvoll zu gestalten. Nur wenn mögliche Nebenwirkungen frühzeitig reflektiert und die Stimmen derjenigen, die betroffen sind, einbezogen werden, können Technologien tatsächlich ihr Potenzial entfalten und zu einer Verbesserung der Lebensqualität beitragen.

KI wird beispielsweise bei der Einschätzung von Pflegebedarfen eingesetzt, bei robotischen Assistenzsystemen oder Chatbots für ältere Menschen. Wo sehen Sie im Bereich KI die größten ethischen Herausforderungen, und wie kann Vertrauen in solche Anwendungen gefördert werden?

Nancy Wünderlich: Ich sehe zwei zentrale Bereiche, in denen sich ethische Herausforderungen beim Einsatz von KI in der Pflege besonders zeigen. Beide hängen eng zusammen. Nutzer*innen müssen sicher sein können, dass Daten und Gespräche, etwa mit Chatbots, vertraulich bleiben. Gleichzeitig besteht die Erwartung, dass Systeme eingreifen, wenn sie problematische Signale wie Anzeichen schwerer Depression erkennen. Zwischen Schutz der Privatsphäre und Schutz vor Gefahren entsteht damit eine ethische Spannung, die in den kommenden Jahren bewusst gestaltet werden muss.

Wenn Sie ins Jahr 2035 blicken: Welche Aspekte von Verantwortung sollten in Innovationsprozessen zur Selbstverständlichkeit geworden sein?

Micaela Alquezar: Für das Jahr 2035 wünsche ich mir, dass Innovation selbstverständlich verantwortungsvoll gestaltet wird. Dazu gehört vor allem Accountability (dt. Verantwortlichkeit): Wer Innovationen entwickelt, muss nicht nur für deren Nutzen einstehen, sondern auch mögliche negative Folgen frühzeitig erkennen, vorbeugen und im Ernstfall handeln.

Ebenso sollte es selbstverständlich sein, dass Innovation nicht allein dem Profit dient. Ziel muss es sein, das Wohlergehen von Menschen, anderen Lebewesen und der Umwelt zu verbessern. Innovationen, die nur auf kurzfristige Gewinne ausgerichtet sind, übersehen zu oft ihre langfristigen gesellschaftlichen und ökologischen Kosten. Damit solche verantwortungsvollen Prozesse möglich sind, braucht es starke und unabhängige Forschung. Universitäten und öffentliche Wissenschaftseinrichtungen sollten ausreichend finanziert werden, um Entwicklungen voranzutreiben, die nicht durch die Zwänge des privaten Marktes eingeschränkt sind.

Im Jahr 2035 hoffe ich, dass diese Prinzipien keine Ausnahme mehr darstellen, sondern zur Selbstverständlichkeit geworden sind: Innovation als globaler, nachhaltiger und gerechter Prozess, der allen zugutekommt.