Warum spielt Ethik bei Künstlicher Intelligenz im Gesundheitswesen eine zentrale Rolle?

Ethik stellt sicher, dass KI-Systeme fair, transparent und verantwortungsvoll eingesetzt werden. Besonders im Gesundheitswesen beeinflussen KI-Entscheidungen Diagnosen, Therapien und Versorgungsprozesse – daher müssen sie stets dem Wohl der Patientinnen und Patienten dienen, Diskriminierungen vermeiden und nachvollziehbar bleiben, damit Behandelnde und Betroffene den Systemen vertrauen können.

Wie kann KI im Gesundheitswesen verantwortungsvoll eingesetzt werden?

Verantwortung entsteht durch klare Zuständigkeiten, nachvollziehbare Entscheidungswege und eine kontinuierliche Überwachung der KI-Modelle. Einrichtungen müssen definieren, wer für Datenqualität, Modellauswahl und Ergebnisinterpretation verantwortlich ist, wie Fehlentscheidungen erkannt und korrigiert werden und wer gegenüber Patientinnen, Patienten sowie den zuständigen Aufsichtsbehörden Rechenschaft ablegt.

Welche Rolle spielt der EU AI Act im Gesundheitswesen?

Der EU AI Act definiert KI-Anwendungen im Gesundheitsbereich überwiegend als Hochrisiko-Systeme. Damit gelten strenge Anforderungen wie technische Dokumentation, Risikobewertung, Überwachung über den gesamten Lebenszyklus und Transparenzpflichten. Betreiber müssen zudem ein Qualitätsmanagementsystem etablieren und die Konformität ihrer KI-Systeme fortlaufend und regelmäßig nachweisen.

Warum verursacht KI-Governance im Gesundheitswesen erhebliche Kosten?

KI-Governance ist kein Papier-Thema, sondern ein dauerhafter organisatorischer und technischer Aufwand. Im Gegensatz zu klassischen IT-Systemen erfordert KI zusätzliche, klar getrennte Rollen: Modellentwicklung, unabhängige Validierung, Freigabe & Betrieb sowie Überwachung & Audit.

Welche Rolle spielt der Betriebsrat beim Einsatz von KI-Systemen im Gesundheitswesen?

Durch das Betriebsrätemodernisierungsgesetz vom 18. Juni 2021 wurden die Mitbestimmungsrechte des Betriebsrats beim KI-Einsatz gestärkt. § 90 Abs. 1 Nr. 3 BetrVG stellt klar: Plant der Arbeitgeber den KI-Einsatz, hat er den Betriebsrat rechtzeitig unter Vorlage der erforderlichen Unterlagen zu unterrichten. Zusätzlich gilt eine Arbeitgeberpflicht zur Kompetenzschulung gemäß Artikel 4 des EU AI Act.

Welche Betreiberpflichten gelten für Hochrisiko-KI-Systeme?

Zu den Betreiberpflichten zählen Schulungspflichten zur KI-Kompetenz und Aufsichtsbefugnisse (Art. 4 und Art. 26 Abs. 2 KI-VO), Kontroll- und Überwachungspflichten gemäß Betriebsanleitung (Art. 26 Abs. 1 KI-VO), Dokumentationspflichten mit mindestens sechsmonatiger Protokoll-Aufbewahrung (Art. 26 Abs. 6 KI-VO) sowie die Registrierungspflicht in der EU-Datenbank (Art. 49 Abs. 3 i.V.m. Art. 26 Abs. 8 KI-VO).

Diese Website verwendet ausschließlich technisch notwendige Cookies, die für den Betrieb der Seite erforderlich sind. Weitere Informationen

Thomas Bade■

Insights

KI verstehen. Verantwortung übernehmen.

Kostenfreie Einblicke zu KI-Governance, EU AI Act und Cybersicherheit im Gesundheits- und Sozialwesen. Praxisnah und unabhängig – von Thomas Bade.

Bitte bestätigen Sie Ihre Anmeldung anschließend per E-Mail. Sie können Insights jederzeit über den Abmeldelink abbestellen. Impressum & Datenschutz