Hefny M.S., Herman A-M.,
ACM Journal on Responsible Computing, January 2026.

---

Care-Aware Decision Layer (CADL)

Ethical Governance für KI-gestützte Entlassentscheidungen

Die Publikation „Care-Aware Decision Layer: Embedding Ethics of Care into AI-Supported Clinical Discharge Decisions“ entwickelt ein Konzept, das eine zentrale Schwäche vieler KI-Anwendungen im Gesundheitswesen adressiert:
die fehlende Berücksichtigung relationaler und ethischer Faktoren in klinischen Entscheidungsprozessen.

Während klassische klinische KI-Modelle vor allem statistische Risikoprognosen aus EHR-Daten berechnen (z. B. Wiederaufnahmerisiko oder Verweildauer), schlägt die Studie eine zusätzliche ethische Bewertungsschicht vor, die Entscheidungen im Kontext von Vertrauen, emotionalem Zustand und sozialer Unterstützung interpretiert.

Für Governance-Modelle in Gesundheitssystemen entsteht daraus ein neues Paradigma:
KI-Systeme benötigen nicht nur technische Validierung, sondern auch eine strukturierte ethische Kontrollinstanz.

---

Strategischer Kontext der Publikation

KI wird zunehmend Bestandteil klinischer Entscheidungsprozesse.
Typische Einsatzfelder sind:

• Prognose von Wiederaufnahmerisiken.
• Planung von Entlasszeitpunkten.
• Priorisierung von Patienten im Bettenmanagement.
• Steuerung von Versorgungsübergängen.

Diese Systeme basieren überwiegend auf strukturierten klinischen Daten wie Laborwerten, Diagnosen oder Aufenthaltsdauer.
Die Autoren argumentieren jedoch, dass diese Modelle einen kritischen blinden Fleck besitzen.
Beispiele:

• Patient hat keine häusliche Unterstützung.
• Patient oder Angehörige haben Angst vor der Entlassung.
• Patient vertraut dem Behandlungsteam nicht.
• Komplexe Medikationsregime.

Gerade diese Faktoren sind aber häufig entscheidend für einen sicheren Übergang in die Nachversorgung.

---

Kernelement der Studie: Care-Aware Decision Layer

Das zentrale Konzept der Publikation ist eine zusätzliche Systemschicht.
Care-Aware Decision Layer (CADL)

Diese Ebene wird nachgelagert zu bestehenden KI-Systemen eingesetzt.
Die Architektur ist bewusst modular aufgebaut:

• Klinisches KI-System erstellt eine Empfehlung.
• CADL bewertet diese Empfehlung ethisch.
• Die Ergebnisse werden dem klinischen Team präsentiert

Die Schicht kann:

• eine Empfehlung bestätigen.
• eine Empfehlung modifizieren.
• eine Empfehlung übersteuern.

Das System generiert zusätzlich eine begründete ethische Erklärung für die Entscheidung.
Damit entsteht eine Art Ethik-Filter für KI-Entscheidungen.

---

Operationalisierung von Care Ethics

Die Autoren greifen auf das Konzept der Ethics of Care zurück.
Dieses ethische Modell betont:

• Beziehung zwischen Patient und Versorgungssystem.
• Abhängigkeit und Verletzlichkeit.
• Verantwortung und Aufmerksamkeit.
• Kontextsensibilität

Die Studie übersetzt diese abstrakten Prinzipien erstmals in technisch operationalisierbare Variablen.
Zu den wichtigsten Bewertungsparametern gehören:

• Emotionaler Zustand des Patienten.
• Depression bzw. psychische Belastung.
• Verfügbarkeit eines Caregivers.
• Vertrauen in das Behandlungsteam.
• Präferenz des Patienten
• besondere ethische Flags (z. B. End-of-Life-Situation).

Diese Variablen werden zu einem Vulnerability Score aggregiert, der bestimmt, ob eine KI-Empfehlung akzeptiert oder übersteuert wird.

---

Governance-Logik des Modells

Die Architektur des CADL ist bewusst nicht als autonomes KI-System konzipiert, sondern als Governance-Mechanismus.
Wichtige Designprinzipien:

Transparenz

• Die Entscheidungslogik basiert auf regelbasierten Strukturen.
• Entscheidungen sind nachvollziehbar.
• Entscheidungen sind auditierbar.
• Entscheidungen dokumentierbar.

Human-in-the-Loop

• Die letzte Entscheidung bleibt beim klinischen Personal.
• CADL unterstützt die Entscheidungsfindung, ersetzt sie jedoch nicht.

---

Beispiele aus klinischen Szenarien

Die Studie demonstriert das Konzept anhand von sechs klinischen Fallbeispielen.
Typische Situationen:

Premature Discharge Risk

Ein älterer Patient ist medizinisch stabil, lebt jedoch allein und hat Angst vor der Entlassung.
Ergebnis:→ CADL stoppt die Entlassung und empfiehlt zusätzliche Unterstützung.

Supportive Early Discharge

Ein Patient hat familiäre Unterstützung und hohe Selbstsicherheit.
Ergebnis:→ CADL erlaubt eine frühere Entlassung als vom KI-System empfohlen.

Distrust Scenario

Patient zeigt starkes Misstrauen gegenüber dem Behandlungsteam.
Ergebnis: → CADL empfiehlt eine traumasensible Entlassplanung.

Diese Beispiele zeigen, dass die ethische Bewertung sowohl restriktiver als auch liberaler sein kann als die KI-Prognose.

---

Relevanz für AI Governance und Control Panels

Für Governance-Instrumente im Gesundheitswesen ist die Studie besonders relevant.
Sie zeigt:

Responsible AI benötigt mehr als technische Prüfungen.

• Notwendig sind ethische Bewertungen.
• Notwendig sind Kontextprüfungen.
• Notwendig sind soziale Risikoanalysen.
• Notwendig ist institutionelle Governance.

Ein modernes AI Control Panel könnte daher folgende Elemente enthalten:

• Risiko-Score der KI.
• Ethische Kontextanalyse.
• Governance-Trigger.
• Human-Review-Mechanismus.

CADL liefert für eine operationalisierte AI-Governance im klinischen Alltag einen praktischen Ansatz.

---

Einordnung für das Entlassmanagement

Gerade im Entlassmanagement sind solche Modelle besonders relevant.
Entlassentscheidungen betreffen häufig:

• ältere Patienten.
• multimorbide Patienten.
• komplexe Versorgungsketten.
• begrenzte Ressourcen.

Hier treffen ökonomische Logik (Bettenmanagement) und ethische Verantwortung (Versorgungssicherheit) unmittelbar aufeinander.
Der vorgeschlagene Ansatz zeigt einen Weg, wie KI-Systeme nicht nur effizient, sondern auch verantwortungsvoll eingesetzt werden können.

Kernaussage der Publikation

Die Studie demonstriert, dass KI-Systeme im Gesundheitswesen nicht nur durch technische Genauigkeit, sondern auch durch ethische Interpretationsschichten ergänzt werden müssen.
Die Care-Aware Decision Layer stellt dafür ein reproduzierbares Konzept bereit, das AI Governance, klinische Entscheidungsunterstützung und Care Ethics miteinander verbindet.

---

Link zur Original Veröffentlichung!

Hefny et al.: Care-Aware Decision Layer: Embedding Ethics of Care into AI-Supported Clinical Discharge Decisions

---

Ejjami R.:
International Journal For Multidisciplinary Research, Volume 6, Issue 5, October 2024.

---

Governance-Framework für KI im Gesundheitswesen

Die Publikation „The Holistic Intelligent Healthcare Theory (HIHT)" stellt ein umfassendes theoretisches Modell zur Integration von Künstlicher Intelligenz in Gesundheitssysteme vor.
Ziel des Ansatzes ist es, KI nicht isoliert als Technologie zu betrachten, sondern als Bestandteil eines ganzheitlichen Governance- und Organisationssystems im Gesundheitswesen.

The Holistic Intelligent Health

Der Ansatz adressiert eine zentrale Herausforderung der aktuellen KI-Transformation:
In vielen Einrichtungen erfolgt die Einführung von KI-Systemen fragmentiert und ohne ein konsistentes organisatorisches und ethisches Steuerungsmodell.

---

Ausgangspunkt der Theorie

Die Studie beschreibt eine strukturelle Entwicklung im Gesundheitswesen:

Beispiele für mögliche Insider-Zugänge:

• Rasche Ausbreitung von KI in Diagnose, Prognose und Administration.
• Zunehmende Nutzung datenbasierter Entscheidungsmodelle.
• Steigende Anforderungen an Datenschutz und Transparenz.

Gleichzeitig existieren laut Autoren erhebliche Defizite:

• Fehlende Governance-Strukturen.
• Unzureichende Datenqualität.
• Mangelnde Transparenz von Algorithmen.
• Unklare Rollenverteilung zwischen Mensch und KI.

Die Holistic Intelligent Healthcare Theory (HIHT) soll diese Lücke schließen und ein systemisches Integrationsmodell für AI-Healthcare-Systeme bereitstellen.

---

Grundstruktur der Holistic Intelligent Healthcare Theory

Das Modell basiert auf mehreren miteinander verbundenen Bausteinen.
Zentrale Elemente sind:

1. Spezialisierte AI-Governance-Strukturen
Krankenhäuser sollen eigene organisatorische Einheiten einrichten.
Intelligent Healthcare Services Einheiten übernehmen folgende Aufgaben:

• Steuerung der AI-Implementierung.
• Datenmanagement.
• Ethische Kontrolle.
• Regulatorische Compliance.

Die Studie beschreibt diese Einheiten als zentrale Koordinationsstelle für KI-Anwendungen im Krankenhaus.

2. Datenqualität und Data Governance
Die Leistungsfähigkeit von KI im Gesundheitswesen hängt unmittelbar von der Qualität der zugrunde liegenden Daten ab.
Holistic Intelligent Healthcare Theory (HIHT) betont deshalb:

• Datenstandardisierung.
• Kontinuierliche Datenvalidierung.
• Anonymisierung und Datenschutz.
• Sichere Dateninfrastrukturen.

Der Ansatz betrachtet Datenmanagement nicht nur als technische, sondern auch als ethische Herausforderung.
Fehlerhafte oder verzerrte Daten können klinische Entscheidungen beeinflussen und damit direkte Auswirkungen auf Patientensicherheit haben.

3. Transparente und ethische KI-Entwicklung
Ein weiterer zentraler Baustein ist die Forderung nach erklärbaren und transparenten KI-Systemen.
Die Autoren argumentieren, dass medizinisches Personal nur dann Vertrauen in KI-Modelle entwickelt, wenn:

• Entscheidungslogiken nachvollziehbar sind.
• Kontinuierliche Datenvalidierung.
• Algorithmen überprüfbar bleiben.
• Ethische Standards eingehalten werden.

Die Theorie fordert daher:

• Erklärbare Künstliche Intelligenz (KI).
• Ethische Prüfverfahren.
• Algorithmen überprüfbar bleiben.
• Klare Verantwortungsstrukturen.

Diese Aspekte bilden die Grundlage für Responsible AI in der klinischen Praxis.

---

Human-AI-Synergy als Kernprinzip

Ein zentraler Gedanke des Modells ist die Zusammenarbeit zwischen Mensch und KI.
Die Theorie lehnt die Vorstellung ab, dass KI medizinische Entscheidungen ersetzen könnte.
Stattdessen wird ein Konzept der Augmented Intelligence vorgeschlagen:

• KI unterstützt medizinisches und pflegerisches Personal bei der Analyse großer Datenmengen.
• KI unterstützt medizinisches und pflegerisches Personal bei Risikoabschätzungen.
• KI unterstützt medizinisches und pflegerisches Personal bei personalisierten Therapieentscheidungen.

Die endgültige Entscheidung bleibt jedoch beim klinischen Personal.

Dieses Modell soll:

• Vertrauen in KI stärken.
• Fehlentscheidungen reduzieren.
• Die Qualität klinischer Entscheidungen verbessern.

---

Neue Rolle im Gesundheitssystem: der „Intelligent Doctor“

Ein innovativer Bestandteil des Frameworks ist die Einführung einer neuen Berufsrolle:
Diese Rolle des Intelligent Doctor verbindet zwei Kompetenzbereiche:

• Klinische Expertise.
• KI- und Datenkompetenz.

Der Intelligent Doctor soll:

• KI-Empfehlungen interpretieren.
• Ergebnisse validieren.
• Algorithmische Entscheidungen kritisch prüfen.
• Ethische Aspekte berücksichtigen.

Damit entsteht ein neues Kompetenzprofil im Gesundheitswesen, das technologische und medizinische Expertise verbindet.

---

Integration von KI in klinische Workflows

Die Studie zeigt, dass erfolgreiche KI-Implementierungen immer mit einer Anpassung klinischer Prozesse verbunden sind.
Holistic Intelligent Healthcare Theory (HIHT) beschreibt deshalb das Konzept des AI-Integrated Workflow Design.
Dabei werden KI-Systeme so in klinische Prozesse integriert, dass sie:

• Entscheidungsunterstützung liefern.
• Administrative Prozesse automatisieren.
• Diagnostische Analysen verbessern.

Gleichzeitig soll verhindert werden, dass KI bestehende klinische Abläufe stört.
Die Theorie betont daher die Bedeutung eines sozio-technischen Ansatzes, bei dem Technologie, Organisation und menschliche Faktoren gemeinsam betrachtet werden.

---

Ergebnisse der empirischen Untersuchung

Die Autoren ergänzen die Theorie durch qualitative Untersuchungen:

• Experteninterviews.
• Fallstudien in Krankenhäusern.

Wesentliche Ergebnisse:

• Einrichtungen mit zentralen AI-Governance-Strukturen implementieren KI erfolgreicher.
• Datenqualität ist der wichtigste Erfolgsfaktor für klinische KI-Systeme.
• Transparente Algorithmen erhöhen die Akzeptanz bei Ärzten.
• Human-AI-Kooperation verbessert klinische Entscheidungsprozesse.
• Schulungsprogramme für medizinisches Personal sind entscheidend für den erfolgreichen Einsatz von KI.

---

Einordnung im Kontext aktueller KI-Debatten

Die Holistic Intelligent Healthcare Theory ergänzt bestehende Modelle der Technologieakzeptanz wie:

• Technology Acceptance Model (TAM).
• Unified Theory of Acceptance and Use of Technology (UTAUT).

Während diese Modelle vor allem Adoptionsfaktoren analysieren, erweitert HIHT die Perspektive um:

• Ethische Governance.
• Organisatorische Integration.
• Human-AI-Interaktion

Damit liefert die Theorie einen umfassenderen Ansatz für die systemische Implementierung von KI im Gesundheitswesen.

---

Fazit

Die Holistic Intelligent Healthcare Theory stellt einen umfassenden Governance-Rahmen für den Einsatz von KI im Gesundheitswesen dar.
Damit liefert die Theorie eine strategische Grundlage für Gesundheitseinrichtungen, die KI nicht nur als technologische Innovation, sondern als Bestandteil eines integrierten Governance- und Versorgungssystems implementieren möchten.

---

Link zur Original Veröffentlichung!

Ejjami et al.: The Holistic Intelligent Healthcare Theory (HIHT)

---