Diese Website verwendet ausschließlich technisch notwendige Cookies. Weitere Informationen

Health AI Partnership (HAIP)

Die Health AI Partnership (HAIP) ist das erste multi-stakeholder-Kollaborativ, das sich ausschließlich darauf konzentriert, Gesundheitseinrichtungen in die Lage zu versetzen, KI sicher, wirksam und gerecht einzusetzen.
HAIP wurde im April 2022 gegründet – von Duke Health, Mayo Clinic, UC Berkeley und DLA Piper, gefördert durch die Gordon and Betty Moore Foundation, und ist am Duke Institute for Health Innovation (DIHI) in Durham, North Carolina verankert.
HAIP ist kein Think Tank und kein politisches Gremium. Es ist ein praxisorientiertes Netzwerk für Gesundheitseinrichtungen, das operative Best-Practice-Leitfäden, Governance-Werkzeuge und Unterstützungsprogramme speziell für deploying organizations entwickelt.


Warum die Health AI Partnership für KI-Governance, KI-Kompetenz und Lernformate strategisch relevant ist!

Die eigentliche Frage ist nicht, ob Mitarbeitende KI nutzen – sondern ob Einrichtungen diese Nutzung strukturiert beschreiben, verantworten und im Beschaffungsprozess belastbar prüfen können.
Die Health AI Partnership ist für Krankenhäuser, Pflegeeinrichtungen, kommunale Träger und Verwaltung deshalb relevant, weil sie KI-Governance auf die Ebene bringt, auf der sie täglich gebraucht wird: Beschaffung, Integration, Dokumentation, Monitoring und Lifecycle-Management konkreter KI-Systeme.
Genau darin liegt auch die strategische Relevanz für die Lernformate von Thomas Bade. Denn viele Einrichtungen haben heute kein reines Informationsproblem. Sie haben ein Umsetzungsproblem: KI wird genutzt, aber Zuständigkeiten, Risikoabbildung, interne Dokumentation und eine belastbare Beschaffungslogik sind oft noch nicht ausreichend entwickelt.

Das HAIP-Framework ist deshalb nicht nur ein Governance-Instrument. Es ist eine operative Brücke zwischen Kompetenzaufbau, Beschaffungspraxis und interner Nachweisfähigkeit.

Kernaussage: Lernformate werden dann besonders wertvoll, wenn sie nicht nur Wissen vermitteln, sondern aus KI-Nutzung dokumentierbare, prüffähige und steuerbare Praxis machen – beginnend bei der Beschaffungsentscheidung.


Kernaussagen der Health AI Partnership

1

KI-Governance beginnt nicht auf Strategieebene, sondern bei der strukturierten Beschreibung konkreter Anwendungen.

Die Health AI Partnership zeigt, dass Einrichtungen ihre KI-Nutzung nur dann steuern können, wenn Use Cases systematisch erfasst, beschrieben und in eine einheitliche Struktur überführt werden.

2

Dokumentation ist die Voraussetzung für Vergleichbarkeit, Steuerung und interne Verantwortung.

Erst wenn Anwendungen nach einer konsistenten Logik beschrieben werden, lassen sich Risiken bewerten, Zuständigkeiten klären und Entscheidungen organisationsweit nachvollziehbar treffen.

3

KI-Kompetenz reicht nicht aus – sie muss in dokumentierbare Ergebnisse übersetzt werden.

Mitarbeitende müssen KI nicht nur verstehen, sondern ihre Nutzung so erfassen, dass sie für QM, IT, Datenschutz und Leitung verwertbar wird.

4

Das Framework schafft eine gemeinsame Sprache zwischen Fachpraxis und Management.

Zwischen operativer Nutzung und strategischer Verantwortung fehlt oft die Verbindung. Die HAIP-Werkzeuge übersetzen konkrete Anwendungen in berichtsfähige Governance-Strukturen.

5

Für Lernformate entsteht der Schritt von Weiterbildung zu echter Governance-Befähigung.

Der eigentliche Mehrwert liegt darin, dass aus Lernmodulen operative Outputs entstehen: Use-Case-Steckbriefe, Risikoeinordnungen, Verantwortlichkeiten und Monitoring-Logiken.


Was KI-Beauftragte und Organisationen jetzt einordnen sollten

Die Health AI Partnership zeigt ein klares Muster: KI wird in Einrichtungen bereits genutzt, aber oft noch nicht systematisch erfasst, bewertet und gesteuert. Die eigentliche Herausforderung liegt deshalb nicht in der Technologie, sondern in der fehlenden Struktur zur Einordnung, Dokumentation und verantwortungsvollen Beschaffung.

Management-Botschaft

Für Gesundheitswesen und Kommunen sind die HAIP-Leitfäden vor allem operative Governance-Instrumente.
Der entscheidende Schritt ist nicht die Einführung von KI – sondern die Fähigkeit, Systeme nachvollziehbar zu beschaffen, Anwendungen zu dokumentieren, Verantwortlichkeiten zu klären und Monitoring strukturiert aufzubauen.

Use CaseKI-Anwendungen müssen strukturiert beschrieben und eingeordnet werden.
GovernanceVerantwortlichkeiten und Entscheidungslogiken müssen klar definiert sein.
MonitoringRisiken, Änderungen und Vorfälle müssen systematisch beobachtet werden.

Die Health AI Partnership macht sichtbar, dass Governance nicht erst auf der Ebene großer Strategiepapiere beginnt.
Sie beginnt dort, wo eine Einrichtung ihre KI-Systeme strukturiert beschafft und ihre KI-Anwendungen in eine belastbare Ordnung bringt.


Warum das Framework für Gesundheitswesen und Pflege besonders relevant ist

Pflege

KI-Kompetenz sitzt im Alltag, nicht nur in der Leitung

Pflegekräfte arbeiten bereits heute mit KI-gestützten Dokumentations- und Assistenzsystemen. Gerade dort braucht es klare Einordnung, Grenzen und dokumentierte Verantwortlichkeiten.

Verwaltung

Entscheidungsvorbereitung braucht nachvollziehbare Logik

Verwaltungsmitarbeitende nutzen KI-Outputs häufig in vor- oder nachgelagerten Entscheidungsprozessen. Governance muss deshalb auch auf administrative Anwendungsfälle ausgedehnt werden.

Sozialdienst

Einordnung wird zum Engpass

Viele Teams wissen heute noch nicht sicher, welche Systeme in ihrer Praxis regulatorisch relevant, erklärungsbedürftig oder besonders überwachungspflichtig sein können.

Organisation

Governance beginnt mit Struktur, nicht mit Perfektion

Einrichtungen brauchen keinen theoretischen Maximalanspruch, sondern ein praxistaugliches Raster, mit dem sie KI geordnet erfassen, priorisieren und weiterentwickeln können.


Was das praktisch bedeuten kann

1

Modul „KI-Use-Case dokumentieren"

Schrittweise Erfassung von Zweck, Rollen, Risiken, Schutzmaßnahmen und Monitoring.

2

Standardisierter KI-Steckbrief

Exportierbares Ergebnis für QM, Leitung, Datenschutz oder interne Projektsteuerung.

3

Control Panel für KI-Anwendungen

Übersicht über Status, Risiko, Verantwortlichkeit, Dokumentationsstand und Monitoring.

Praxislogik

  • Erst strukturieren, dann skalieren.
  • Erst dokumentieren, dann steuern.
  • Erst governancefähig werden, dann ausrollen.

Vom Framework zur praktischen Konsequenz

Befund Bedeutung für Organisationen Praktische Konsequenz
KI-Nutzung ist oft schon da, bevor Governance sauber aufgebaut ist. Organisationen verlieren leicht den Überblick über Zwecke, Rollen und Risiken. Use Cases systematisch erfassen und einheitlich beschreiben.
Wissen allein erzeugt noch keine interne Steuerungsfähigkeit. Kompetenz muss in Dokumentation und nachvollziehbare Ergebnisse übersetzt werden. Lernmodule mit exportfähigen Governance-Outputs verbinden.
Fachbereiche und Leitung sprechen oft nicht dieselbe Sprache. Es fehlt eine gemeinsame Struktur für Einordnung und Berichterstattung. Standardisierte KI-Steckbriefe und Verantwortungsmatrizen etablieren.
Monitoring wird häufig erst spät mitgedacht. Risiken, Änderungen und Vorfälle bleiben organisatorisch unscharf. Monitoring-Pfade früh in die Dokumentationslogik integrieren.

Die zentrale Frage ist nicht, welche KI-Tools bereits im Einsatz sind.

Entscheidend ist vielmehr, welche KI-Anwendungen sich in der eigenen Einrichtung fachlich sinnvoll einbinden, strukturiert beschaffen, dokumentieren und verantwortbar betreiben lassen.
Genau hier setzt die Health AI Partnership an. Sie bietet klare Werkzeuge, um aus vorhandenem KI-Wissen belastbare operative Praxis zu entwickeln – beginnend bei der Beschaffung und weiterführend bis zum laufenden Betrieb.


Neue Publikation: HAIP AI Vendor Disclosure Framework – NEJM AI, April 2026

Am 23. April 2026 wurde im New England Journal of Medicine AI (NEJM AI) ein Framework veröffentlicht, das die bisherige HAIP-Arbeit um eine zentrale Dimension erweitert: die strukturierte Transparenz bei der Beschaffung von KI-Systemen.

Das HAIP AI Vendor Disclosure Framework von Kpodzro, Kim, Hasan et al. (Duke Institute for Health Innovation) ist die erste gemeinschaftlich entwickelte Leitlinie, die verbindlich beschreibt, welche Informationen Hersteller von KI-Systemen im Gesundheitswesen offenlegen müssen – und welche Angaben Einrichtungen im Beschaffungsprozess einfordern sollten.

Die Veröffentlichung im NEJM AI ist kein Zufall: Das Journal gilt als führende Fachzeitschrift für klinische KI und richtet sich direkt an Entscheidungsträger in Gesundheitssystemen. Ein Beitrag dort hat normativen Charakter – er setzt Erwartungen für die Branche.

Warum das für deutsche Einrichtungen jetzt relevant ist:
Krankenhäuser, Pflegeeinrichtungen und Träger stehen unter wachsendem Druck, KI-Systeme zu beschaffen – oft ohne Werkzeuge, um Herstellerversprechen belastbar zu prüfen. Das Framework gibt Beschaffungsteams erstmals ein strukturiertes Frageset an die Hand: von Zweckbestimmung und Regulierungsstatus über Datenschutz und Lifecycle-Management bis zu Haftung und Gesamtkosten. In Verbindung mit EU AI Act, MDR/IVDR und DSGVO entsteht daraus ein praxistauglicher Governance-Rahmen für verantwortungsvolle KI-Beschaffung.


HAIP Governance Readiness Check

Wie gut dokumentiert, steuert und verantwortet Ihre Organisation
den Einsatz von KI-Anwendungen?
Wählen Sie alle Aussagen aus, die auf Ihre Einrichtung zutreffen.

Das HAIP Reporting Framework zeigt: KI wird in Organisationen bereits genutzt – aber oft noch nicht strukturiert erfasst, bewertet und gesteuert. Dieser Check orientiert sich an den fünf Governance-Dimensionen: Use-Case-Dokumentation, Verantwortlichkeit, Risikobewertung, Kompetenz und Monitoring.
📋

Use-Case-Dokumentation

Dimension 1
Wir haben ein aktuelles Register aller eingesetzten KI-Anwendungen.
Alle KI-Tools werden mit Zweck, Anbieter, Nutzungskontext und Verantwortlichkeit systematisch erfasst – nicht nur auf IT-Ebene.
KI-Anwendungen werden anhand standardisierter Steckbriefe beschrieben.
Für jede KI-Anwendung existiert eine einheitliche Dokumentationsstruktur: Zweck, Eingabedaten, Ausgaben, Nutzergruppen, Grenzen.
Use Cases sind nach Risikostufen priorisiert und klassifiziert.
Die Einrichtung unterscheidet zwischen Hochrisiko-KI (EU AI Act Anhang III), mittlerem und niedrigem Risiko – auch für interne Tools.
⚖️

Governance & Verantwortlichkeit

Dimension 2
Für jede KI-Anwendung ist eine eindeutige Betreiberverantwortung (Art. 26 EU AI Act) definiert.
Es ist klar geregelt, wer für Auswahl, Einführung, Überwachung und ggf. Abschaltung intern zuständig ist.
Ein interdisziplinäres Governance-Board trifft KI-Entscheidungen.
Leitung, QM, Datenschutz, IT, ggf. Betriebsrat und Fachbereiche sind in Auswahl, Freigabe und Steuerung eingebunden.
KI-Governance ist in die regulären Qualitätsmanagementsysteme (QM) integriert.
KI-Prozesse, Freigaben und Abweichungen werden in bestehenden QM-Strukturen (DNQP, G-BA QS, ISO) dokumentiert und auditierbar gehalten.
🛡️

Risikobewertung & Datenschutz

Dimension 3
EU AI Act und DSGVO-Anforderungen sind in unsere KI-Auswahlprozesse integriert – nicht nachgelagert.
Compliance-Prüfung (Hochrisiko-Klassifikation, DSFA, Art. 9 DSGVO bei Gesundheitsdaten) erfolgt vor Vertragsabschluss mit KI-Anbietern.
Für relevante KI-Anwendungen existiert eine dokumentierte Folgenabschätzung ( FRIA FRIA steht für Fundamental Rights Impact Assessment, auf Deutsch Grundrechte-Folgenabschätzung.
Es ist ein zentrales Instrument, das durch den EU AI Act (die europäische KI-Verordnung) für bestimmte Hochrisiko-KI-Systeme vorgeschrieben wird.
/ DSFA Eine Datenschutz-Folgenabschätzung (DSFA) für Künstliche Intelligenz (KI) ist eine spezielle Risikobewertung nach Art. 35 DSGVO.
Sie ist zwingend erforderlich, wenn der Einsatz von KI voraussichtlich ein hohes Risiko für die Rechte und Freiheiten natürlicher Personen zur Folge hat.
).
Wo KI-Systeme Entscheidungen über Patienten oder Klienten vorbereiten, wurden Risiken für Grundrechte schriftlich bewertet.
Wir überprüfen KI-Anbieter anhand strukturierter Kriterien (z. B. HAIP AI Vendor Disclosure Framework).
Die Evaluation folgt einem systematischen Kriterienkatalog: Transparenz, Validierung, Fehlerberichterstattung, Trainingsdaten, Bias-Tests.
🎓

KI-Kompetenz & Schulung

Dimension 4
Mitarbeitende erhalten rollenbezogene KI-Kompetenzschulungen mit Nachweis (Art. 4 EU AI Act).
Führungskräfte, Fachpersonal, Pflege und Verwaltung haben unterschiedliche Lernpfade – Abschlüsse werden dokumentiert.
Mitarbeitende können KI-Grenzen, Halluzinationsrisiken und Eskalationswege benennen.
Nutzende wissen, wann sie KI-Outputs hinterfragen und menschliche Fachentscheidungen vorziehen müssen.
Lernformate erzeugen exportierbare Governance-Outputs – keine reinen Wissensnachweise.
Aus Schulungen entstehen operative Ergebnisse: Use-Case-Steckbriefe, Risikoeinordnungen, Monitoring-Pläne – nutzbar für QM, Datenschutz und Leitung.
📡

Monitoring & Betriebsverantwortung

Dimension 5
KI-Anwendungen werden im laufenden Betrieb aktiv auf Drift, Fehler und Wirksamkeit überwacht.
Es existiert ein Post-Market-Monitoring-Plan (PMM) oder vergleichbares Kontrollverfahren für KI-Systeme im Regelbetrieb.
Vorfälle mit KI-Systemen werden systematisch dokumentiert und analysiert.
Fehlfunktionen, unerwartete Outputs oder Beschwerden haben definierte Eskalations- und Meldewege.
Wir haben Kriterien definiert, unter welchen Bedingungen eine KI-Anwendung pausiert oder abgeschaltet wird.
Exit-Kriterien und Abschaltszenarien sind dokumentiert – nicht nur für Pilotprojekte, sondern auch im Regelbetrieb.
Ihre HAIP Readiness
0
von 15 Kriterien erfüllt
Wählen Sie die zutreffenden Aussagen aus, um eine Einordnung zu erhalten.
Ergebnisse je Dimension
Health AI Partnership · Duke Institute for Health Innovation

A Collaborative Best Practice Guide for Promoting AI Vendor Transparency in Health Care – The HAIP AI Vendor Disclosure Framework

Kpodzro S., Kim J.Y., Hasan A. et al. · NEJM AI 2026;3(5) · DOI: 10.1056/AIp2500985


healthaipartnership.org
Das Framework in der Praxis nutzen?

Ich zeige Ihnen, wie Sie die HAIP-Leitfäden für Ihre KI-Beschaffung und Digital Health Strategie einsetzen.

KI Transparenzhinweis  ART. 50 · VO (EU) 2024/1689 · EU AI ACT
Englischsprachige Quelldokumente wurden mit Unterstützung von KI-Sprachmodellen übersetzt.
Thomas Bade hat alle Inhalte inhaltlich geprüft, fachlich bewertet und freigegeben.
KI-Lernportal KI Lernformate thomas-bade.org