Diese Website verwendet ausschließlich technisch notwendige Cookies, die für den Betrieb der Seite erforderlich sind. Weitere Informationen


Digitale Souveränität im Gesundheitswesen■
KI verstehen, steuern und nutzen■

TL;DR – Kurz zusammengefasst

  • Thomas Bade stellt Krankenhäusern, Pflegeeinrichtungen und Kommunen vendor-unabhängige Open-Source-Inhalte zur EU AI Act-Compliance und verantwortungsvollen KI-Nutzung zur Verfügung.
  • Schwerpunkte sind Hochrisiko-KI-Klassifizierung, ISO/IEC 42001, MDR/IVDR, DSGVO sowie die Kompetenzpflicht nach Art. 4 KI-VO.
  • Die Website bündelt strukturiertes Wissen, Compliance-Tools und Open-Source-Ressourcen – ohne Marketingfloskeln, orientiert an Evidenz und Governance.
Digitale Souveränität im Gesundheitswesen – KI verantwortungsvoll einsetzen





BSI A5: Prüfarchitektur für vertrauenswürdige KI 11.08.2026

Mit A5 entwickelt das BSI eine neue Prüfarchitektur für KI-Systeme. Sie übersetzt Anforderungen an Sicherheit, Robustheit, Transparenz und Governance in strukturierte und nachvollziehbare Prüfkriterien.

Für Gesundheitswesen und Pflege bietet A5 damit eine wichtige Grundlage, um KI-Systeme systematisch zu bewerten und regulatorische Anforderungen aus EU AI Act, ISO/IEC 42001 und Datenschutz in konkrete Prüfprozesse zu überführen.

A5-Readiness-Checkliste: Arbeitscheck zur Vorbereitung einer internen A5-Readiness-Bewertung.
Die Auswahl wird lokal im Browser gespeichert und der aktuelle Stand dokumentiert.

Mehr erfahren ›
EU AI Act & KI-MIG 02.08.2026

EU KI-Verordnung im Gesundheitswesen

Das KI-Marktüberwachungs- und Innovationsförderungs-Gesetz (KI-MIG) ist seit dem 29. Juli 2026 geltendes Recht.
Seit dem 2. August 2026 ist der EU AI Act allgemein anwendbar. Damit stehen Transparenzpflichten, Marktüberwachung und nationale Durchsetzung im Mittelpunkt.

Für Krankenhäuser, Pflegeeinrichtungen und Anbieter von KI-Systemen sind insbesondere die Einordnung als Hochrisiko-KI, die Zuständigkeit der Bundesnetzagentur, Human Oversight, technische Dokumentation und die Fristen für Medizinprodukte relevant.

Mehr erfahren ›
KI Qualitätsmanagement System 22.06.2026

DIN EN ISO/IEC 42001:2026-08 Trust by Design

DIN EN ISO/IEC 42001:2026-08 ist die weltweit erste internationale Norm für Managementsysteme im Bereich Künstliche Intelligenz (Artificial Intelligence Management System – AIMS)
Sie unterstützt Organisationen dabei, den Einsatz von KI systematisch zu planen, zu steuern und kontinuierlich zu verbessern. Damit schafft die Norm einen strukturierten Rahmen für verantwortungsvolle KI-Governance – unabhängig von Branche, Unternehmensgröße oder eingesetzter Technologie

Im Mittelpunkt stehen Themen wie Führung und Verantwortung, Risikomanagement, Transparenz, menschliche Aufsicht, Datenqualität sowie die Bewertung von Chancen und möglichen Auswirkungen von KI-Systemen.

Mehr erfahren ›

Künstliche Intelligenz im Gesundheitswesen

Die Weltgesundheitsorganisation (WHO) zeigt in ihrer aktuellen Analyse „Demystifying Artificial Intelligence in Health", dass Künstliche Intelligenz das Potenzial besitzt, Gesundheitssysteme nachhaltig zu verbessern.
Gleichzeitig macht der Bericht deutlich, dass technologische Innovation allein nicht ausreicht.
Entscheidend sind robuste Governance-Strukturen, transparente Datenverarbeitung, qualifizierte Fachkräfte und eine konsequente Ausrichtung an der Patientensicherheit.

Diese Perspektive entspricht meiner Grundhaltung.
Im Mittelpunkt steht nicht die Technologie selbst, sondern die verantwortungsvolle Integration von KI in bestehende Versorgungsstrukturen.

Executive Summary anzeigen

Wie KI unsere Gesellschaft und Ökonomie transformiert

Künstliche Intelligenz hat im Gesundheitswesen einen beispiellosen Hype ausgelöst.

Fast täglich erscheinen neue Studien, politische Programme, industrielle Versprechen und technologische Durchbrüche.

Doch zwischen Euphorie und Unsicherheit geht häufig verloren, was wirklich zählt: Welche KI-Lösungen bringen tatsächlich Nutzen – und unter welchen Bedingungen?

Diese Website bietet einen fundierten, komprimierten und realitätsnahen Überblick über die zentralen Entwicklungen der KI im Gesundheitswesen.

Sie zeigt Chancen, Risiken, regulatorische Anforderungen und konkrete Anwendungsfelder – ohne Marketingfloskeln, sondern orientiert an Evidenz, Governance und praktischer Umsetzbarkeit.

Nachdenken-Icon: Gespräch vereinbaren
Wo immer auf der Website das Nachdenken-Icon erscheint, lohnt sich der persönliche Austausch.
Pfeil-Icon: Termin buchen

Künstliche Intelligenz entwickelt sich rasant zu einer der prägendsten Kräfte unserer Zeit – mit tiefgreifenden Auswirkungen auf Gesellschaft, Wirtschaft und insbesondere das Gesundheitswesen.

Nur durch ein Zusammenspiel aus Innovation, Governance und gesellschaftlicher Teilhabe kann KI ihr Potenzial voll entfalten und zu einem Werkzeug für eine gesündere, resilientere und gerechtere Zukunft werden.

Literaturverzeichnis und Quellen

„Technologische Innovation allein reicht nicht aus – entscheidend sind robuste Governance-Strukturen, transparente Datenverarbeitung, qualifizierte Fachkräfte und eine konsequente Ausrichtung an der Patientensicherheit."
— WHO Europe / European Observatory on Health Systems and Policies: Demystifying Artificial Intelligence in Health, März 2026

Die Inhalte dieser Seite stützen sich auf primäre Rechtsquellen und institutionelle Berichte, u. a.:

Häufig gestellte Fragen

Ethik stellt sicher, dass KI-Systeme fair, transparent und verantwortungsvoll eingesetzt werden.
Besonders im Gesundheitswesen beeinflussen KI-Entscheidungen Diagnosen, Therapien und Versorgungsprozesse – daher müssen sie stets dem Wohl der Patientinnen und Patienten dienen, Diskriminierungen vermeiden und nachvollziehbar bleiben, damit Behandelnde und Betroffene den Systemen vertrauen können.

Verantwortung entsteht durch klare Zuständigkeiten, nachvollziehbare Entscheidungswege und eine kontinuierliche Überwachung der KI-Modelle.
Einrichtungen müssen definieren, wer für Datenqualität, Modellauswahl und Ergebnisinterpretation verantwortlich ist, wie Fehlentscheidungen erkannt und korrigiert werden und wer gegenüber Patientinnen, Patienten sowie den zuständigen Aufsichtsbehörden Rechenschaft ablegt.

Der EU AI Act definiert KI-Anwendungen im Gesundheitsbereich überwiegend als Hochrisiko-Systeme.
Damit gelten strenge Anforderungen wie technische Dokumentation, Risikobewertung, Überwachung über den gesamten Lebenszyklus und Transparenzpflichten. Betreiber müssen zudem ein Qualitätsmanagementsystem etablieren und die Konformität ihrer KI-Systeme fortlaufend und regelmäßig nachweisen.

KI-Governance ist kein „Papier-Thema", sondern ein dauerhafter organisatorischer und technischer Aufwand.
Im Gegensatz zu klassischen IT-Systemen erfordert KI zusätzliche, klar getrennte Rollen (Segregation of Duties):
  • Modellentwicklung (Data Science / Anbieter)
  • Unabhängige Validierung (z. B. Medizin, Qualitätssicherung, IT)
  • Freigabe & Betrieb (Management / Compliance)
  • Überwachung & Audit (KI-Governance, Datenschutz, Medizincontrolling)

Durch das Betriebsrätemodernisierungsgesetz vom 18. Juni 2021 wurden die Mitbestimmungsrechte des Betriebsrats beim KI-Einsatz gestärkt.
§ 90 Abs. 1 Nr. 3 BetrVG stellt klar: Plant der Arbeitgeber den KI-Einsatz, hat er den Betriebsrat rechtzeitig unter Vorlage der erforderlichen Unterlagen zu unterrichten.
Beachte: Zusätzlich gilt eine Arbeitgeberpflicht zur Kompetenzschulung gemäß Artikel 4 des EU AI Act. KI Kompetenzpflicht für Arbeitgeber

Schulungspflichten
KI-Kompetenz und Aufsichtsbefugnisse sicherstellen, Art. 4 und Art. 26 Abs. 2 KI-VO.

Kontroll- und Überwachungspflichten
Verwendung der KI-Systeme gemäß Betriebsanleitung sicherstellen, Art. 26 Abs. 1 KI-VO.

Dokumentationspflichten
Automatisch erzeugte Protokolle mindestens 6 Monate aufbewahren, Art. 26 Abs. 6 KI-VO.

Registrierungspflichten
Eintragung in die EU-Datenbank, Art. 49 Abs. 3 i.V.m. Art. 26 Abs. 8 KI-VO. Nachdenken-Icon: Gespräch vereinbaren

Neu · Audit & Assurance

BSI A5: Vertrauenswürdige KI prüfbar machen

Leitseite zu Systembeschreibung, Kontrollmatrix, Human Oversight, Cloud/C5, Monitoring, Incident Response und Prüfung nach ISAE 3000 – mit interaktivem Readiness-Assessment.

BSI A5 öffnen