KI-Anbieter prüfen und sicher beschaffen
KI-Beschaffung im Gesundheitswesen – Transparenz als Governance-Pflicht!
Kurze Einführung · von Thomas Bade
Transkript anzeigen
KI-Beschaffung im Gesundheitswesen beginnt mit einer ehrlichen Frage: Was weiß ich wirklich über das System, das ich kaufen will?
Krankenhäuser, Pflegeeinrichtungen und Kommunen werden täglich mit Produktversprechen konfrontiert. Dashboards. Effizienzgewinne. Automatisierung. Aber konkrete Angaben zu Systemzweck, Leistungskennzahlen, Datenbasis und Grenzen? Die bleiben häufig aus.
Das ist kein Zufall. Es ist eine strukturelle Lücke im Beschaffungsprozess – und genau diese Lücke schließt das HAIP AI Vendor Disclosure Framework, veröffentlicht im April zweitausendundsechsundzwanzig im New England Journal of Medicine AI.
Das Framework benennt fünf Kerndomänen, zu denen Anbieter zwingend Auskunft geben sollen: Systemfähigkeiten und Zweck, Leistung und Compliance, Datenschutz und Daten-Stewardship, Integrationsanforderungen sowie Life-Cycle-Management.
Diese Checkliste übersetzt das Framework in ein operatives Arbeitsinstrument. Für Einkauf, Datenschutz, IT, Medizin, Pflege und Geschäftsführung.
Wer heute strukturiert beschafft, ist morgen compliant. Wer das heute nicht tut, riskiert nicht nur Fehlinvestitionen – sondern auch die Sicherheit seiner Patientinnen und Patienten.
Ihr Thomas Bade
Warum das HAIP AI Vendor Disclosure Framework für die KI-Beschaffung entscheidend ist
Beschaffungsteams im Gesundheitswesen stehen vor einem strukturellen Dilemma. Kpodzro et al. (2026) haben in einer peer-reviewten Studie im New England Journal of Medicine AI empirisch belegt, dass Anbieter statt belastbarer Evidenz meist Marketingmaterialien ohne überprüfbare Angaben zu Zweck, Leistung, Datenbasis und Grenzen ihres Systems liefern.
Das Ergebnis sind schlecht validierte KI-Systeme, die klinische Workflows ignorieren, bestehende Versorgungsungleichheiten verstärken und Einrichtungen regulatorisch exponieren. Das HAIP-Framework schafft einen verbindlichen Standard für den Informationsaustausch zwischen Einrichtung und Anbieter – und gibt Beschaffungsteams die Sprache, belastbare Antworten einzufordern.
Mit Inkrafttreten des EU AI Act (Art. 9–15) ist strukturierte Herstellerdokumentation für Hochrisiko-KI keine Kür mehr, sondern Pflicht. Das HAIP-Framework liefert das operative Beschaffungsgegenstück dazu.
Für die Checkliste auf dieser Seite gilt: Die Bewertung der 29 Prüfkriterien ist kein Selbstzweck. Sie ist ein strukturierter Einstieg in eine evidenzbasierte Beschaffungsentscheidung – und in eine KI-Governance, die über den Vertragsabschluss hinausreicht.
Managementlogik: Erst offenlegen lassen. Dann bewerten. Danach beschaffen. Im Regelbetrieb fortlaufend überwachen.
Einordnung
Warum Anbietertransparenz Governance-Arbeit ist
Das HAIP-Rahmenwerk übersetzt gute Beschaffungspraxis in eine strukturierte Offenlegung: Gesundheitsorganisationen sollen nicht nur Marketingversprechen bewerten, sondern belastbare Angaben zu Zweck, Leistung, Daten, Integration und Betrieb einfordern.
Die Checkliste nutzt die Logik aus Tabelle 1 des HAIP-Rahmenwerks und macht daraus ein operatives Arbeitsinstrument für Anbieterbewertung, KI-Governance, Einkauf, Datenschutz, IT, Medizin und Pflege.
Managementlogik
Erst offenlegen lassen. Dann bewerten. Danach beschaffen. Im Regelbetrieb fortlaufend überwachen.
Checkliste
HAIP Offenlegung von KI-Anbietern
Anleitung
Bewerten Sie jeden Prüfpunkt nach Offenlegungsreife des Anbieters. Bei „in Prüfung“ bitte eine Notiz ergänzen; diese wird in das PDF übernommen.
- vollständig offengelegt – Angaben sind konkret, prüfbar und für Entscheidung sowie Vertrag nutzbar.
- teilweise offengelegt – Angaben liegen vor, sind aber noch nicht vollständig belastbar.
- nicht offengelegt – relevante Information fehlt oder bleibt nur allgemein.
- in Prüfung – Sachstand offen; Prüfnotiz erforderlich.
Hinweis zur Premium-Funktion (ab September 2026 auf thomas-bade.org)
Die Premium-Version enthält Schulungsmodule für fünf exemplarische KI-Anwendungen im Gesundheitswesen.
Jedes Modul umfasst die zugehörigen Prüfungskriterien sowie den Nachweis der nachgewiesenen KI-Kompetenz gemäß den jeweiligen Anwendungsbereichen.
Management Summary
Statusübersicht
-
Offene Prüfpunkte
Erstellt am:
Quelle und Nutzung
Diese Webseite ist eine redaktionelle Arbeitsfassung für thomas-bade.de auf Grundlage des HAIP AI Vendor Disclosure Frameworks. Sie ersetzt keine Rechts-, Datenschutz-, Medizinprodukte- oder IT-Sicherheitsprüfung, sondern strukturiert die interne Anbieterbewertung.
BSI-Checkliste: Planung, Beschaffung, Anpassung
Kriterienkatalog des BSI zur Integration von extern bereitgestellten generativen KI-Modellen in eigene Anwendungen (Juni 2025)
Anleitung
Diese Checkliste bildet die drei frühen Lebenszyklusphasen des BSI-Kriterienkatalogs ab: anwendungsfallbezogene Planung, Beschaffung und Anpassung (u. a. System-Prompts) – jeweils vor Integration eines extern bereitgestellten generativen KI-Modells in eine eigene Anwendung. Die farbigen Marken zeigen das Modalverb des Originaltexts (MUSS, SOLLTE, DARF NICHT). Bewerten Sie jeden Punkt und exportieren Sie das Ergebnis als PDF.
Hinweis: Der Kriterienkatalog ist derzeit unverbindlich und richtet sich an die Bundesverwaltung; er dient hier als Orientierungsrahmen guter Praxis auch außerhalb der Bundesverwaltung. Quelle: BSI Kriterienkatalog
Management Summary
Statusübersicht
-
Offene Prüfpunkte
Erstellt am:
Häufige Fragen zum BSI-Kriterienkatalog
Einordnung der interaktiven Checkliste für extern bereitgestellte generative KI-Modelle.
Ist der BSI-Kriterienkatalog verbindlich?
Nein. Version 1.0 vom 6. Juni 2025 ist ein unverbindlicher Kriterienkatalog, der frühzeitig Orientierung geben und perspektivisch in einen Mindeststandard münden soll. Gesetzliche Pflichten, insbesondere aus der EU-KI-Verordnung, bleiben zusätzlich zu beachten.
Für welche KI-Anwendungen gilt der Kriterienkatalog?
Er adressiert den regulären Betrieb eigener Anwendungen, in die extern bereitgestellte generative KI-Modelle per Schnittstelle oder lokal integriert werden. Reine Dienstenutzung, vollständig selbst entwickelte Modelle, eigenes Fine-Tuning sowie Forschung, Proof of Concept und Laborbetrieb liegen außerhalb seines Geltungsbereichs.
Welche Lebenszyklusphasen deckt die Checkliste ab?
Der BSI-Katalog betrachtet globale KI-Governance, Planung, Beschaffung, Anpassung, Integration, Einsatz und Beendigung. Die interaktive Checkliste dieser Seite konzentriert sich auf Planung, Beschaffung und Anpassung; Status, Notizen und offene Punkte können als PDF dokumentiert werden.
Quelle: Bundesamt für Sicherheit in der Informationstechnik, Kriterienkatalog zur Integration extern bereitgestellter generativer KI-Modelle, Version 1.0, 6. Juni 2025.
|
NEJM AI 2026;3(5)
A Collaborative Best Practice Guide for Promoting AI Vendor Transparency in Health Care — The HAIP AI Vendor Disclosure Framework Kpodzro S., Kim J. , Hasan A., Thomas C., Draugelis M. , Jeffries S.M., Beecy A., Stroum M., M.S., Valladares A., M.S., igen Z., Tobey D., Vidal D., J.D., Lifson A., Mulligan D., Balu S., Sendak M.. Link zur Original Arbeit |
Aus Framework wird Entscheidung.
Ich übersetze den HAIP-Standard in Ihre konkrete Beschaffungssituation. |
Thomas Bade hat alle Inhalte inhaltlich geprüft, fachlich bewertet und freigegeben.
Inhalte dieser Webseite und die HAIP Checkliste für KI-Systeme dürfen geteilt werden, sofern der Urheber genannt wird und keine Bearbeitungen verbreitet werden.
BSI A5 · Audit & Assurance
Lieferantenprüfung mit A5-Nachweisen
A5-ready Vendor Governance verlangt nachvollziehbare Provenienz und belastbare Betriebszusagen.
- Modell- und Datenprovenienz sowie Versionierung
- SLA, C5-/Audit-Nachweise und Change Management
- Portabilität, Exit und Verantwortlichkeiten
BSI A5: Status, Module und interaktives Readiness-Assessment