Regulierung von Künstlicher Intelligenz im Gesundheitswesen
Die Nutzung von Künstlicher Intelligenz (KI) in Krankenhäusern entwickelt sich rasant weiter. Mit der kürzlich verabschiedeten KI-Verordnung der Europäischen Union werden jedoch auch die regulatorischen Anforderungen für ihre Anwendungen verschärft. Krankenhäuser, die KI in ihren Abläufen nutzen, gelten rechtlich als Betreiber solcher Systeme und müssen daher zahlreiche Vorgaben erfüllen. Die Pflichten hängen davon ab, ob ein System einen allgemeinen oder spezifischen Zweck erfüllt, als Hochrisiko eingestuft wird oder gar verboten ist.
Ableitungen der KI-Klassifizierungen
Die Klassifizierung für KI-Systeme gemäß der EU-Verordnung ist komplex. Dies resultiert aus der unübersichtlichen Struktur der Verordnung und den zahlreichen Ausnahmen, insbesondere für den rechtsvollziehenden Einsatz von KI. Insbesondere Systeme für allgemeine oder spezielle Zwecke können vielfältige Anwendungen finden, vom allgemeinen KI-Modell bis hin zu spezifischen Chatbots oder Triage-Algorithmen.
Prüfschema für Krankenhäuser
Ein praktisches Prüfschema kann Krankenhäusern helfen, ihre KI-Systeme effizient zu klassifizieren. Hierunter fallen allgemeine Systeme und hochspezialisierte Anwendungen wie Sicherheitsalgorithmen in kritischen Infrastrukturen oder fortgeschrittene medizinische Diagnosesysteme. Zusätzlich werden Systeme kategorisiert, die durch ihre Kontrollpraktiken als verboten gelten könnten.
Verpflichtungen für Betreiber von KI-Systemen
Mit der Einführung der neuen Verordnung müssen Krankenhäuser als Betreiber von KI-Systemen vielfältige rechtliche Verpflichtungen erfüllen. Diese reichen von allgemeinen Transparenzpflichten bis hin zu spezifischen Anforderungen für Hochrisiko-Systeme.
Grundlegende Transparenz- und Informationspflichten
Bis August 2026 müssen Betreiber sicherstellen, dass Nutzer deutlich erkennen können, wenn sie mit einem KI-System interagieren. Zusätzlich müssen die Erzeugnisse dieser Systeme klar als künstlich ausgewiesen sein. Auch die Schulung des Personals zur Sicherstellung einer angemessenen KI-Kompetenz ist von zentraler Bedeutung.
Zusätzliche Anforderungen für Hochrisiko-KI-Systeme
Hochrisiko-Systemen, wie sie etwa in der medizinischen Diagnostik oder im Sicherheitsbereich vorkommen, unterliegen strengen, detaillierten Vorschriften. Diese beinhalten Überwachungs-, Melde- und Dokumentationspflichten, um sicherzustellen, dass die Anwendung dieser Systeme weder die Gesundheit noch die Rechte von Individuen gefährdet.
Haftungsfragen bei KI-Einsatz im Gesundheitswesen
Im Gesundheitswesen sind Haftungsfragen im Zusammenhang mit KI-Systemen äußerst wichtig. Diese betreffen sowohl die ärztliche Haftung als auch die Verantwortlichkeit der Krankenhäuser und gegebenenfalls der Hersteller der KI-Systeme.
Ärztliche Haftung bei Behandlungsfehlern
Ärzte bleiben für Diagnosen und Therapieentscheidungen verantwortlich, auch wenn KI-gestützte Systeme als Hilfsmittel genutzt werden. Behandlungsfehler können auftreten, wenn ein Arzt ohne kritische Prüfung den Empfehlungen eines KI-Systems folgt, die möglicherweise nicht passend sind. Gleichzeitig kann die Vernachlässigung moderner KI-Techniken potenziell haftungsrelevant sein, falls diese zum medizinischen Standard zählen.
Krankenhaus- und Herstellerhaftung
Krankenhäuser könnten für organisatorische Missstände oder die fehlerhafte Auswahl und Integration von KI-Tools haftbar gemacht werden. Hersteller von KI-basierten Medizinprodukten müssen zudem sicherstellen, dass die Produkte fehlerfrei und adäquat getestet sind und allen regulatorischen Anforderungen entsprechen. Trotz der Herstellerhaftung können Patienten sich primär an Ärzte oder Krankenhäuser wenden, die dann bei Bedarf rechtliche Schritte gegen den Hersteller einleiten können.
Benötigen Sie Unterstützung bei der Implementierung oder Einhaltung von KI-Richtlinien in Ihrem Krankenhaus? Kontaktieren Sie uns gerne. Unser Team von Experten steht Ihnen zur Seite, um Sicherheits- und Compliance-Anforderungen zu erfüllen.
