Künstliche Intelligenz in Gesellschaft und Wirtschaft.
Sie möchten Digitalisierung, künstliche Intelligenz (KI) oder Prozessoptimierung in Ihrer Organisation voranbringen?
Der Entwurf eines Gesetzes zur Durchführung der Verordnung (EU) 2024/1689 liegt als Referentenentwurf seit September 2025 vor.
Um Veränderungsprozesse voranzubringen, nutzen immer mehr Unternehmen, Institutionen, und kommunale Behörden Coaching und Beratung.
Chancen, Verantwortung und Zukunft!
Neu
08.12.2025
Kostenfreies Erstgespräch buchen!
Buchen Sie jetzt ein kostenfreies Erstgespräch und erhalten Sie eine fundierte, praxisnahe Einschätzung zu Ihren aktuellen Herausforderungen – speziell für Gesundheitseinrichtungen, Kommunen und soziale Organisationen.
Künstliche Intelligenz
05.12.2025
EU-AI-Act wird ab 2026 Pflicht.
Der Gesetzgeber wird verbindliche Regeln für General-Purpose-AI, neue Governance-Strukturen, Benachrichtigungsstellen und Sanktionsmechanismen einführen.
Kommunen
01.12.2025
Business-Coach für KI-Kompetenz
Als Business-Coach mit KI-Kompetenzen begleite ich Organisationen dabei, ihre Handlungsspielräume zu erweitern und zukunftsfähige Geschäftsmodelle zu entwickeln – mit einem klaren Blick auf Chancen, Risiken und strategische Einsatzfelder.
Wie KI unsere Gesellschaft und Ökonomie transformiert
Künstliche Intelligenz hat im Gesundheitswesen einen beispiellosen Hype ausgelöst.
Fast täglich erscheinen neue Studien, politische Programme, industrielle Versprechen und technologische Durchbrüche.
Doch zwischen Euphorie und Unsicherheit geht häufig verloren, was wirklich zählt: Welche KI-Lösungen bringen tatsächlich Nutzen – und unter welchen Bedingungen?
Diese Website bietet einen fundierten, komprimierten und realitätsnahen Überblick über die zentralen Entwicklungen der KI im Gesundheitswesen.
Sie zeigt Chancen, Risiken, regulatorische Anforderungen und konkrete Anwendungsfelder – ohne Marketingfloskeln, sondern orientiert an Evidenz, Governance und praktischer Umsetzbarkeit.
Wo immer auf der Website das Nachdenken-Icon erscheint, wird besonders deutlich - hier lohnt sich das
persönliche Beratungsgespräch, um Ihre individuelle Situation, Ihre Projekte oder Ihre Einrichtung zielgerichtet einzuordnen.Kompetente Unterstützung und Beratung unterstützen Sie dabei, die richtigen Entscheidungen zu treffen – jenseits des Hypes, nah an Ihren Zielen und im Einklang mit den aktuellen europäischen und nationalen KI-Rahmenwerken.
Künstliche Intelligenz entwickelt sich rasant zu einer der prägendsten Kräfte unserer Zeit – mit tiefgreifenden Auswirkungen auf Gesellschaft, Wirtschaft und insbesondere das Gesundheitswesen.
Europäische Institutionen, Forschungszentren und globale Akteure betonen gleichermaßen, dass KI nicht nur technologische Innovationen ermöglicht, sondern zu einem grundlegenden Motor für Wettbewerbsfähigkeit, Versorgungssicherheit und Wohlstand wird.
Im Gesundheitsbereich unterstützt KI heute bereits präzisere Diagnosen, frühere Risikobewertungen und effizientere Prozesse, was zu besseren Behandlungsergebnissen und einer spürbaren Entlastung von Fachkräften führt.
Zugleich eröffnen KI-gestützte Lösungen neue wirtschaftliche Perspektiven: Sie steigern Produktivität, schaffen neue Wertschöpfungsfelder und tragen maßgeblich zum globalen Wirtschaftswachstum bei.
Internationale Organisationen wie WHO, NAM oder das Weltwirtschaftsforum betonen jedoch, dass dieser Fortschritt untrennbar mit verantwortungsvoller Entwicklung verbunden sein muss – mit klaren ethischen Leitlinien, Transparenz und dem Schutz menschlicher Autonomie.
Nur durch ein Zusammenspiel aus Innovation, Governance und gesellschaftlicher Teilhabe kann KI ihr Potenzial voll entfalten und zu einem Werkzeug für eine gesündere, resilientere und gerechtere Zukunft werden.
Dieser Prolog lädt dazu ein, künstliche Intelligenz nicht nur als Technologie zu verstehen, sondern als Chance, die Zukunft aktiv und verantwortungsvoll zu gestalten.
Häufig gestellte Fragen
Ethik stellt sicher, dass KI-Systeme fair, transparent und verantwortungsvoll eingesetzt werden.
Besonders im Gesundheitswesen beeinflussen KI-Entscheidungen Diagnosen, Therapien und Versorgungsprozesse – daher müssen sie stets dem Wohl der Patientinnen und Patienten dienen und Diskriminierungen vermeiden.
Verantwortung entsteht durch klare Zuständigkeiten, nachvollziehbare Entscheidungswege und eine kontinuierliche Überwachung der KI-Modelle.
Einrichtungen müssen definieren, wer für Datenqualität, Modellauswahl und Ergebnisinterpretation verantwortlich ist – und wie Fehlentscheidungen verhindert werden.
Risikominimierung umfasst die Identifikation potenzieller Gefahren (z. B. Fehlklassifikationen, Bias, Datenlecks) und das Einführen wirksamer Kontrollmechanismen, etwa regelmäßige Validierungen, Monitoring, menschliche Aufsicht (Human-in-the-Loop) und robuste Datenschutzmaßnahmen.
Besonders bei „High-Risk AI“ ist dies gesetzlich vorgeschrieben.
Der EU AI Act definiert KI-Anwendungen im Gesundheitsbereich überwiegend als Hochrisiko-Systeme.
Damit gelten strenge Anforderungen wie technische Dokumentation, Risikobewertung, Überwachung über den gesamten Lebenszyklus und Transparenzpflichten. Die Verordnung soll Vertrauen schaffen und zugleich Innovation ermöglichen.
Die Zweckbestimmung beschreibt genau, wofür ein KI-System eingesetzt werden darf und welche Funktionen reguliert sind.
Sie bestimmt, ob ein System als Medizinprodukt gilt, welche Risikoklasse es hat und welche regulatorischen Nachweise erforderlich sind. Ohne klare Zweckbestimmung keine Zulassung.
KI unterstützt Fachkräfte durch automatisierte Dokumentation, Entscheidungsunterstützung, Prozessoptimierung und Qualitätsanalysen.
Dennoch ersetzt sie kein Personal – vielmehr verschiebt sich der Fokus auf Kontrolle, Validierung und verantwortliche Nutzung der Modelle.
Der Betriebsrat hat beim KI-Einsatz ein weitreichendes Mitbestimmungsrecht.
KI verändert Arbeitsprozesse, Qualifikationsanforderungen und Kommunikationsabläufe – damit greift sie in mitbestimmungspflichtige Bereiche nach §§ 96–98 BetrVG ein.
Dazu gehören insbesondere:
Im Krankenhaus ist dies besonders relevant, da KI-Systeme (z. B. für Entlassmanagement, Dokumentation oder Entscheidungsunterstützung) unmittelbar die Arbeit der Pflege, der Ärzteschaft oder des Sozialdienstes verändern. Der Betriebsrat stellt sicher, dass Transparenz, Qualifizierung, Datenschutz und Belastungsschutz gewahrt bleiben.
Ja. Immer mehr Versicherer bieten spezielle Policen zur Absicherung von KI-Risiken an.
Diese richten sich sowohl an Gesundheitseinrichtungen als auch an Hersteller oder Betreiber von KI-Systemen.
Abgedeckt werden können u. a.:
Wichtig: Für Hochrisiko-KI im Gesundheitswesen verlangen Versicherer zunehmend Risikobewertungen, Prozessnachweise, Monitoring-Konzepte und klare Zweckbestimmungen der eingesetzten Systeme. Ein professionelles KI-Risikomanagement ist daher oft Voraussetzung für eine Versicherbarkeit.
Verantwortung bleibt immer beim Menschen. Auch wenn KI eine Empfehlung ausspricht, liegt die letztendliche Entscheidung bei der verantwortlichen Fachkraft oder Institution.
Hersteller und Betreiber tragen zusätzlich Verantwortung für korrekte Entwicklung, Implementierung und Überwachung des Systems.
Dazu gehören vielfältige Trainingsdaten, kontinuierliche Bias-Analysen, klare Governance-Prozesse und ein Monitoring realer Nutzungsmuster.
Transparente Modelle und regelmäßige Audits helfen, unbeabsichtigte Benachteiligungen zu erkennen und zu verhindern.
Viele Einrichtungen stehen vor der Herausforderung, technische, rechtliche und ethische Anforderungen richtig einzuordnen.
Eine professionelle Beratung hilft, Risiken zu erkennen, realistische Ziele zu definieren und Projekte von Beginn an gesetzeskonform und effizient aufzusetzen.
1. Gelten sie als Hochrisiko-KI-Systeme?
Möglicherweise ja, insbesondere die Planung des voraussichtlichen Entlassbedarfs als Vorhersage beim Entlassmanagement.
Ob sie als Hochrisiko-Systeme gemäß EU AI Act eingestuft werden, hängt von ihrer Zweckbestimmung und ihrer Risikoklasse als (potenzielles) Medizinprodukt ab.
Da die Systeme Gesundheitsprognosen liefern, ist eine Einstufung als Medizinprodukt Klasse IIa plausibel – was es automatisch zum Hochrisiko-KI-System machen würde.
Die KI-Arztbrief-Funktion könnte als rein administratives Tool (Klasse I oder kein Medizinprodukt) gelten – mit geringerer Hochrisikowahrscheinlichkeit.
Cave: Bei Entlassmanagement ist zusätzlich zu beachten, dass das Entlassmanagement zur Krankenhausbehandlung gemäß § 39 SGB V gehört.
Gemäß Bundessozialgericht (Urteil vom 08.10.2019, B 1 A 3/19 R) gilt das Versorgungsmanagement (§ 11 Abs. 4 SGB V) auch im Rahmen des Entlassmanagments und gibt Versicherten das Recht auf professionelle Hilfe, um nach einer Krankenhausbehandlung nahtlos weiterversorgt zu werden.
2. Es müssen offizielle CE-Kennzeichnungen oder Risikoklassifikationen vorliegen!
Wenn diese nicht öffentlich ersichtlich sind, ist besondere Vorsicht beim Einsatz in Krankenhäusern geboten (Betreiberpflichten).
Diese Transparenz ist zwingend erforderlich, um die Klassifizierung rechtssicher festzulegen.
3. Warum ist Transparenz bei der Klassifizierung so wichtig?
Weil nur so Krankenhäuser und Behörden beurteilen können:
Fehlende Transparenz zur Klassifizierung erzeugt Unsicherheit und Haftungsrisiken bei Krankenhäusern.
4. Welche Risiken entstehen durch diese Intransparenz?
Krankenhäuser wissen nicht, ob sie ein Hochrisiko-KI-System im Sinne des Gesetzes betreiben, Anforderungen wie Registrierung oder ärztliche Aufsicht könnten versehentlich verletzt werden, im Schadensfall ist unklar, wer haftet – insbesondere bei Fehldokumentationen oder versäumter Nachsorge.
Fehlende Transparenz gefährdet das Vertrauen von Klinikpersonal und Patienten.
5. Was sollten Betreiber (Krankenhäuser) bis zur Klärung tun?
KI-Angaben von Anbietern dieser Systeme kritisch prüfen (Human-in-the-Loop sicherstellen), keine Entscheidungen ohne Prüfung und Zustimmung der Krankenhausärzte zulassen.
Einen Versicherer beauftragen, eine entsprechende Due-Dilligence durchzuführen, und eine Haftpflichtversicherung abschließen.
Schulungspflichten
KI-Kompetenz (AI Literacy) sicherstellen, Art. 4 KI-VO.
Training und Befugnisse für Aufsichtspersonen sicherstellen, Art. 26 Abs. 2 KI-VO.
Kontroll- und Überwachungspflichten
Maßnahmen treffen zur Sicherstellung der Verwendung der KI-Systeme gemäß Betriebsanleitungen, Art. 26 Abs. 1 KI-VO
Übertragung der menschlichen Aufsicht an qualifizierte Personen und Unterstützung der Aufsichtspersonen, Art. 26 Abs. 2 KI-VO, Art. 14 Abs. 3 lit. b KI-VO.
Verwendung geeigneter Eingabedaten (Kontrolle auf Zweckkonformität), Art. 26 Abs. 4 KI-VO.
Überwachung des Betriebs und der Funktionsweise des Hochrisiko-KI-Systems gemäß Betriebsanleitung, Art. 26 Abs. 5, ErwGr. 91 KI-VO.
Aussetzung des Betriebs bei Risiko im Sinne von Art. 79 Abs. 1, Art. 26 Abs. 5 S. 2 KI-VO.
Informationspflichten
Gegenüber dem Anbieter
Information an den Anbieter im Rahmen der Beobachtung nach Inverkehrbringung, Art. 26 Abs. 5 i.V.m. Art. 72 Abs. 2 KI-VO.
Gegenüber Mitarbeitenden
Information der Mitarbeiter über eingesetzte KI-Systeme,Art. 26 Abs. 7, ErwGr. 93 KI-VO.
Gegenüber Betroffenen
Informationspflicht gegenüber den Betroffenen bei der Verwendung von KI-Systemen, die Entscheidungen betreffen oder unterstützen, Art. 26 Abs. 11, ErwGr. 93, 171 KI-VO.
Gegenüber allen beteiligten Akteuren
Unverzügliche Information aller Akteure und der Behörde bei Feststellung eines schwerwiegenden Vorfalls, Art. 26 Abs. 5 KI-VO.
Gegenüber Behörden
Zusammenarbeit mit Behörden, Art. 26 Abs. 12 KI-VO.
Dokumentationspflichten
Aufzeichnungs- und Aufbewahrungspflichten
Aufbewahrung für mindestens 6 Monate der automatisch erzeugten Protokolle, Art. 26 Abs. 6 KI-VO.
Durchführung von Risikoabschätzungen
Durchführung einer Datenschutz-Folgenabschätzung, Art. 26 Abs. 9 KI-VO.
Durchführung einer Grundrechte-Folgenabschätzung, Art. 27, ErwGr. 96 KI-VO.
Mitteilung der Ergebnisse der Grundrechte-Folgenabschätzung an die zuständige Marktüberwachungsbehörde (nur bei Hochrisiko-KI gem. Anhang III), Art. 27 Abs. 3, ErwGr. 96 KI-VO.
Registrierungspflichten
Registrierungspflicht in der EU-Datenbank (für Behörden und Organe der Union), Art. 49 Abs. 3 i.V.m. Art. 26 Abs. 8 KI-VO.