KI im Gesundheitswesen und Code of Conduct
KI verstehen – KI verantwortungsvoll nutzen
Wer GPT-Modelle (Generative Pre-trained Transformer) sicher, verantwortungsvoll und gesetzeskonform einsetzen möchte, benötigt einen klaren Überblick über die relevanten Gesetze, EU-Vorschriften, technischen Richtlinien und ethischen Leitplanken.
Auf dieser Webseite werden die wichtigsten Entwicklungen zusammengefasst – kompakt, praxisnah und strategisch ausgerichtet.
Egal, ob KI im Krankenhaus, in der Pflege, bei Home Care Versorgungen, in der Daseinsvorsorge oder im kommunalen Management eingesetzt wird:
Die regulatorischen Rahmenbedingungen sind ein entscheidender Faktor für erfolgreiche Projekte.
Künstliche Intelligenz verändert zunehmend die Art und Weise, wie Entscheidungen im Gesundheitswesen vorbereitet und getroffen werden.
Systeme wie große Sprachmodelle können komplexe Informationen strukturieren, Wissen zugänglich machen und Fachkräfte bei Analyse- und Entscheidungsprozessen unterstützen.
Wichtige Referenzen zu Gesetzgebung, Wissenschaft und Ethik
Im Mittelpunkt der Beratungsphilosophie von Thomas Bade steht dabei nicht die Technologie selbst, sondern der kompetente und verantwortungsvolle Umgang mit ihr.
KI soll Fachkräfte im Gesundheitswesen stärken – nicht ersetzen.
In der tabellarischen Übersicht Gesetzgebung, Wissenschaft und Ethik sind schlüssige Referenzen aus verschiedenen Bereichen rund um Künstliche Intelligenz (KI) aufgeführt.
Sie bieten einen kompakten Überblick über aktuelle Gesetzgebung, wissenschaftliche Ressourcen, ethische Leitlinien, Empfehlungen aus der Praxis sowie Perspektiven aus der Versicherungsbranche.
Code of Conduct für demokratische KI
Der Code of Conduct wurde von einem interdisziplinären Expertenteam des Projekts Demokratische KI entwickelt.
Beteiligt sind Wissenschaftlerinnen verschiedener deutscher Universitäten, zivilgesellschaftliche Organisationen, Juristinnen, Technikethiker*innen sowie Praktiker aus Verwaltung und Digitalwirtschaft.
Gemeinsam verfolgen sie das Ziel, praxisnahe Leitlinien zu schaffen, die Verantwortliche beim sicheren, gerechten und nachvollziehbaren Einsatz von KI unterstützen.
Code of Conduct – Demokratische KI
Der Code of Conduct „Demokratische KI" beschreibt, wie Künstliche Intelligenz gemeinwohlorientiert, gerecht und verantwortungsvoll eingesetzt werden kann.
Auf dieser Seite finden Sie die zentralen Themen des Code of Conduct in kompakter Form – mit Fokus auf Ethik, Transparenz, Teilhabe und Verantwortung beim Einsatz von KI.
Direkt zum Original
Der vollständige Code of Conduct „Demokratische KI" wurde in einem partizipativen Prozess von mehr als 50 gemeinwohlorientierten Organisationen entwickelt und von D64 – Zentrum für Digitalen Fortschritt koordiniert.
Code of Conduct herunterladen (PDF)KI wird in immer mehr Bereichen eingesetzt – auch in gemeinwohlorientierten Organisationen. Der Code of Conduct bietet einen gemeinsamen Rahmen, um Chancen zu nutzen, Risiken zu erkennen und klare Kriterien für oder gegen den Einsatz von KI zu entwickeln.
- KI ist nicht neutral, sondern spiegelt bestehende Strukturen & Machtverhältnisse.
- Gemeinwohlorientierte Organisationen tragen besondere Verantwortung für demokratische Teilhabe.
- Der Code ergänzt bestehende Rahmenwerke (z. B. EU-Ethik-Leitlinien, UNESCO, OECD).
KI ist kein Selbstzweck. Vor jedem Einsatz steht die Frage: Passt KI wirklich zu Ziel, Kontext und Zielgruppe?
- Nutzen für Zielgruppen gegen mögliche negative Folgen abwägen.
- Ressourcenbedarf realistisch einschätzen.
- Alternative, weniger technikintensive Lösungen immer mitdenken.
Transparenz betrifft Datenbasis, Funktionsweise, Verantwortlichkeiten und Einsatzbereiche von KI-Systemen.
- Einsatz von KI intern und extern offenlegen.
- KI-generierte Inhalte kennzeichnen.
- Funktionsweise so verstehen, dass eine kritische Bewertung möglich ist.
Verantwortung heißt, Folgen des KI-Einsatzes zu bedenken und Entscheidungen begründen zu können.
- Ethische, rechtliche, technische und soziale Aspekte zusammendenken.
- Klare Rollen für Risikoabwägung, Datenschutz und Monitoring festlegen.
- Ergebnisse von KI-Systemen nicht unkritisch übernehmen.
KI verbraucht Energie und Ressourcen – vom Training großer Modelle bis zur Hardware.
- Energie- und Ressourcenverbrauch von KI-Systemen kritisch hinterfragen.
- Wo möglich effizientere Modelle und nachhaltige Infrastruktur bevorzugen.
- Den gesamten Lebenszyklus von Hardware mitdenken.
Der Code of Conduct versteht sich nicht als starres Regelwerk, sondern als Einladung zum kontinuierlichen Lernen und zur gemeinsamen Weiterentwicklung.
- Erfahrungen mit KI teilen und voneinander lernen.
- Eigene Praktiken regelmäßig überprüfen und anpassen.
Aktuelle Einordnung & Impulse
Zwei Perspektiven auf KI im Gesundheitswesen: Governance und Systemstabilität
Mit „Which Human-in-the-Loop?" wird die Frage präzisiert, wer im klinischen Alltag, in der Governance und im Monitoring tatsächlich Verantwortung trägt – und warum Kontext, Kultur und Gesundheitssysteme die Implementierung von KI maßgeblich beeinflussen.
„Agents of Chaos" beleuchtet ergänzend die systemischen Risiken autonomer oder teilautonomer KI-Systeme: von Fehlsteuerungen über Intransparenz bis hin zu Governance-Lücken in komplexen Versorgungsstrukturen.
KI entfaltet ihren Nutzen nur dann nachhaltig, wenn Entscheidungsrechte, Verantwortlichkeiten und Kontrollmechanismen klar definiert und institutionell verankert sind.
Agentic AIAgentic AI bezeichnet KI-Systeme, die Aufgaben selbstständig planen, Entscheidungen treffen und Aktionen ausführen, anstatt nur auf Befehle zu reagieren. im Gesundheitswesen – strukturelle Grenzen und Governance-Implikationen
Autonomie bleibt im Gesundheitswesen praktisch ausgeschlossen.
Eine aktuelle Studie von Dias et al. analysiert anhand von Interviews mit Entwicklern, Klinikern und KI-Strategen, warum sogenannte „agentische KI" im Gesundheitswesen trotz technischer Fortschritte kaum autonom eingesetzt wird.
In klinischen Anwendungen arbeiten KI-Systeme nahezu immer mit Human-in-the-Loop. Vollautonome medizinische Entscheidungen sind aufgrund von Haftungsrecht, Patientensicherheit und regulatorischen Anforderungen derzeit nicht realistisch.
Gesetzgebung, Wissenschaft und Ethik
Die Filterfunktion ermöglicht es Nutzer*innen, gezielt Inhalte innerhalb der Tabelle zu finden.
| # | Titel | Beschreibung | Status | Aktion |
|---|---|---|---|---|
| 1 | Gesetz zur Durchführung der KI-Verordnung | Entwurf eines Gesetzes zur Durchführung der Verordnung (EU) 2024/1689. | Gesetzgebung | Details |
| 2 | KI-Kompetenz | Bundesnetzagentur: Anbieter und Betreiber von KI-Systemen müssen sicherstellen, dass alle Personen über ausreichend KI-Kompetenz verfügen. | Gesetzgebung | Details |
| 3 | World Economic Forum | 7 ways AI is transforming healthcare | Empfehlung | Details |
| 4 | Procurement of AI | European Commission: EU wide model contractual clauses for the public procurement of trustworthy AI services. | Gesetzgebung | Details |
| 5 | Beschaffung von KI | Mustervertragsklauseln für die Vergabe öffentlicher Aufträge für KI (MVK-KI) | Empfehlung | Details |
| 6 | Deutscher Ethikrat | Mensch und Maschine – Herausforderungen durch Künstliche Intelligenz | Ethik | Details |
| 7 | GKV Spitzenverband Bund | Digitalisierung der Gesundheitsversorgung – Zukunft gestalten, Versorgung neu denken! | Empfehlung | Details |
| 8 | Bundesärztekammer | Was ist Künstliche Intelligenz in der Medizin? | Empfehlung | Details |
| 9 | acatech | KI-Verordnung: Ihre Auswirkungen für Medizinprodukte. Herausforderungen und offene Fragen. | Empfehlung | Details |
| 10 | NEJM AI | Journal exploring cutting-edge research and applications of artificial intelligence in clinical medicine. | Wissenschaft | Details |
| 11 | JAMA+ AI | Medical journal, dedicated to the intersection of Artificial Intelligence and healthcare. | Wissenschaft | Details |
| 12 | Code of Conduct Demokratische KI | Selbstverpflichtung zum Einsatz einer verantwortungsvollen KI in der Zivilgesellschaft | Ethik | Details |
| 13 | European Heart Journal | Medicine, healthcare and the AI act: gaps, challenges and future implications. Digital Health, Volume 6, Issue 4, July 2025. | Wissenschaft | Details |
| 14 | Betriebsrat KI | Die Betriebsrat KI wurde mit allen relevanten Gesetzen für das Ehrenamt trainiert und arbeitet auf Basis von ChatGPT. | Empfehlung | Details |
| 15 | DFKI – KI-Campus | Aufbau einer digitalen Lernplattform speziell zum Thema Künstliche Intelligenz. | Wissenschaft | Details |
| 16 | WHO Europe | Gesundheit, Menschlichkeit und KI: Aufbau einer verantwortungsvollen Zukunft. | Ethik | Details |
| 17 | National Academy of Sciences | Health Care Artificial Intelligence Code of Conduct | Ethik | Details |
| 18 | The Library of Congress | Artificial Intelligence (AI) in Health Care | Ethik | Details |
| 19 | Munich RE – aiSure™ | More AI Opportunity. Less AI Risk. | Versicherung | Details |
| 20 | AXA SA | Generative KI – Möglichkeiten, Risiken und Lösungsansätze aus der Sicht eines Versicherers. | Versicherung | Details |
| 21 | Institut Zukunft des Lebens | Das EU-Gesetz zur künstlichen Intelligenz. Aktuelle Entwicklungen und Analysen. | Ethik | Details |
| 22 | BMWi – Ethische Leitlinien für KI | Ethische Leitlinien für Künstliche Intelligenz | Ethik | Details |
| 23 | Deutsche UNESCO-Kommission | UNESCO-Empfehlung zur Ethik der Künstlichen Intelligenz | Ethik | Details |
| 24 | National Academy of Medicine | Artificial Intelligence and Emerging Technology | Wissenschaft | Details |
| 25 | BMFTR – Künstliche Intelligenz | KI ist eine der wichtigsten Schlüsseltechnologien, die auch mittlerweile unseren Alltag betrifft. | Empfehlung | Details |
| 26 | Stifterverband | Status quo und Handlungsbedarfe zu generativer KI im gemeinnützigen Sektor. | Empfehlung | Details |
| 27 | Europäische Kommission – KI im Gesundheitswesen | Wie KI die Zukunft der Medizin revolutioniert (AICare@EU). | Gesetzgebung | Details |
| 28 | EIT Health – SHAIPED & EHDS | Shaping the Future of AI-Driven Healthcare in Europe. | Wissenschaft | Details |
| 29 | Frankfurt School of Finance | Studie: Fünf Erfolgsfaktoren entscheiden über KI-Transformation. | Wissenschaft | Details |
| 30 | GE HealthCare | Responsible AI in healthcare: translating explainability and interpretability into practice. | Empfehlung | Details |
| 31 | D64 – White Paper KI & Solidarität | Solidarität als Gestaltungsauftrag: Das neue White Paper zu KI in der Zivilgesellschaft ist da. | Empfehlung | Details |
| 32 | RD Technologies – AI Discharge | AI-Assisted Patient Discharge Solutions. | Wissenschaft | Details |
| 33 | acatech – Plattform Lernende Systeme | Expertise aus Wissenschaft, Wirtschaft und Gesellschaft für KI in Deutschland. | Wissenschaft | Details |
| 34 | DFKI | Das DFKI forscht seit über 35 Jahren an Künstlicher Intelligenz für den Menschen. | Wissenschaft | Details |
| 35 | bidt Bayern | Digitale Transformation verstehen – Zukunft im Dialog gestalten. | Wissenschaft | Details |
| 36 | OECD – KI in der Gesellschaft | Künstliche Intelligenz in der Gesellschaft. | Wissenschaft | Details |
| 37 | KI-Tools für Literaturrecherche | KI-gestützte Tools eröffnen neue Möglichkeiten für effizientes wissenschaftliches Arbeiten. | Wissenschaft | Details |
| 38 | EU – AI in Science | EU Commission: Artificial intelligence research, funding, policy and related publications. | Wissenschaft | Details |
| 39 | Marktplatz der KI-Möglichkeiten | Umfassender Überblick über den Einsatz von KI in der deutschen Verwaltung. | Empfehlung | Details |
| 40 | EC – Study on AI in healthcare | Study on the deployment of AI in healthcare. Directorate-General for Health and Food Safety. | Empfehlung | Details |
| 41 | BSI – Evasion-Attacks auf LLMs | Bundesamt für Sicherheit in der Informationstechnik. Gegenmaßnahmen in der Praxis. | Empfehlung | Details |
| 42 | NHS – Ambient Voice Technology Registry | NHS England: self-certified registry for national ambient voice technology suppliers. | Empfehlung | Details |
| 43 | Claude's Constitution – Anthropic | Anthropic vision for Claude's character. Detailed description of values and behavior. | Ethik | Details |
| 44 | EC – Proposal MDR/IVDR Simplification | Proposal amending MDR/IVDR regulations for simplifying rules on medical devices. | Empfehlung | Details |
| 45 | DG-KIM – Deutsche Gesellschaft KI in der Medizin | Fördert die verantwortungsvolle Entwicklung und Anwendung von KI in der Medizin. | Wissenschaft | Details |
| 46 | Coalition for Health AI (CHAI) | Responsible AI Guidance and Responsible AI Checklists. | Wissenschaft | Details |
| 47 | Stanford – Boussard Lab | Forefront of Creating Responsible and Applied AI in Health. | Wissenschaft | Details |
| 48 | EURAID – TU Dresden | KI-Systeme sicher und verantwortungsvoll in Krankenhäusern entwickeln und einführen. | Wissenschaft | Details |
| 49 | BAuA – KI im Krankenhaus menschenzentriert | Leitfaden unterstützt Kliniken dabei, KI-Anwendungen menschenzentriert zu entwickeln. | Empfehlung | Details |
| 50 | eticas.ai – Responsible AI in healthcare | A practical guide to risk, oversight, and independent assurance. | Empfehlung | Details |
| 51 | BSI – Evasion-Attacks (vollständig) | Richtet sich an Entwickelnde sowie IT-Sicherheitsbeauftragte. | Empfehlung | Details |
| 52 | BMG – Gemeinsam Digital 2026 | Drei Handlungsfelder der Digitalisierungsstrategie für stärkere digitale Innovationen. | Gesetzgebung | Details |
| 53 | EC – Living Repository KI-Kompetenz | Lebendiges Repository zur Förderung des Lernens und des Austauschs über KI-Kompetenz. | Empfehlung | Details |
| 54 | ARISE – Stanford-Harvard Research Network | Advancing Healthcare AI – interdisciplinary research network. | Wissenschaft | Details |
| 55 | WHO Observatory – Demystifying AI in Health | Practical guide for anyone working in or alongside the health sector. | Wissenschaft | Details |
| 56 | Cochrane AI Methods Group | New AI Methods Group to spearhead adoption across four leading evidence synthesis organizations. | Wissenschaft | Details |
| 57 | NIST AI 800-4 | Challenges to the Monitoring of Deployed AI Systems. | Wissenschaft | Details |
| 58 | LDA Bayern – KI & Datenschutz | Regulatorische Anforderungen beim Einsatz von Künstlicher Intelligenz aus Datenschutzsicht. | Empfehlung | Details |
| 59 | EC – Ethics guidelines for trustworthy AI | Ethics Guidelines for Trustworthy Artificial Intelligence (2019). | Empfehlung | Details |
| 60 | ZQP – KI in der Pflege | Anwendungsfelder, ethische Fragestellungen sowie Auswirkungen auf Pflegequalität. | Empfehlung | Details |
| 61 | McKinsey – The AI antidote | KI-Transformationen werden primär durch den menschlichen Faktor entschieden. | Empfehlung | Details |
| 62 | AI in Nursing – BAuA Working Paper | Hartwig et al.: Empirische Belege für den Einsatz von KI in verschiedenen Pflegekontexten. | Wissenschaft | Details |
| 63 | WHO – Ethics and governance of AI for health | Guidance on large multi-modal models. | Empfehlung | Details |
| 64 | BMDS – KI-basierte Open-Source-Module | Neue Anwendungen unterstützen Planungs- und Genehmigungsprozesse in der Verwaltung. | Empfehlung | Details |
| 65 | AI for Care – Irland 2026–2030 | The Artificial Intelligence Strategy for Healthcare in Ireland 2026–2030. | Empfehlung | Details |
| 66 | BMAS – Digitale Transformation in Pflegeeinrichtungen | Wie sich der Transformationsprozess in Pflegeeinrichtungen gestalten lässt. | Empfehlung | Details |
| 67 | McKinsey & Company | Superagency in the workplace: Empowering people to unlock AI’s full potential. Fast alle Unternehmen investieren in KI, doch nur 1 Prozent ist der Ansicht, dass sie bereits ausgereift ist. Die Untersuchung zeigt, dass das größte Hindernis für die Skalierung nicht die Mitarbeiter sind – die bereit sind –, sondern die Führungskräfte, die nicht schnell genug voranschreiten. | Empfehlung | Details |
