Künstliche Intelligenz in der Praxis
02.11.2026
Von den knapp 98.000 Kassenarztpraxen in Deutschland arbeiten schätzungsweise 30.000 mit KI-Elementen.
Bei ca. 8 Prozent wird KI für administrative Aufgaben bzw. Prozessvereinfachung genutzt; 12 Prozent verwenden KI-Assistenten zur Diagnoseerstellung. Überraschend ist, dass die Hälfte der Niedergelassenen sog. „Schatten-KI“, also unzertifizierte, private KI-Werkzeuge wie ChatGPT, für berufliche Zwecke verwendet und das oft häufiger als das Praxispersonal. Nicht ohne Grund fordern 76 Prozent der Ärzte trotz der Chancen durch KI für die Medizin eine strengere gesetzliche Regelung für den Einsatz im Arbeitsalltag.
Übersicht der bisherigen rechtlichen Regelungen
Mit dem EU AI-Act (KI-Verordnung) ist im August 2024 das weltweit erste umfassende Gesetz zur Regulierung von KI in Kraft getreten. Das Gesetz teilt KI-Anwendungen in verschiedene Risikostufen ein:
- Minimales Risiko: z. B. Dienstplan-Optimierung, etc.
- Begrenztes Risiko: z. B. Chatbots, Telefonassistenten, etc.
- Hochrisiko-Systeme: z. B. KI für Bewerberauswahl, Diagnose- KI (EU-Medizinprodukteverordnung)
- Verbotene KI-Systeme: z. B. Social Scoring-KI
Zudem wurden 2025 KI-Verbote erlassen für bestimmte Anwendungen wie z. B. biometrische Kategorisierung am Arbeitsplatz oder Social Scoring. Es gilt außerdem die KI-Kompetenzpflicht (Art. 4 AI Act), die besagt, dass Arbeitgeber nach besten Kräften sicherstellen müssen, dass ihr Personal im Umgang mit KI-Systemen geschult ist. Das betrifft jede Person im Betrieb, die KI nutzt – selbst wenn sie „nur“ mit standardmäßigen Chatbots arbeitet. Auch verschärfte Dokumentations- und Kontrollpflichten wurden für Anbieter von General Purpose AI (kurz: GPAI, KI-Modelle mit allgemeinem Verwendungszweck, Basismodelle) eingeführt. Während diese primär die Anbieter der Basismodelle treffen, nutzen bspw. Arztpraxen unter Umständen darauf aufbauende, spezifische KI-Systeme wie automatisierte Sprechstunden-Dokumentationen oder Chatbots. Demnach müssen Praxen bei der Softwareauswahl streng darauf achten, dass die Anwendungen alle regulatorischen Vorgaben des AI Acts und Datenschutzes lückenlos erfüllen.
HINWEIS
Wer KI bspw. zur Sprechstunden-Dokumentation nutzt, muss unbedingt alle strengen rechtlichen Anforderungen an Datenschutz, Datensicherheit und Verschwiegenheit beachten: Anbieter sollten anerkannte Zertifizierungen und einen Serverstandort in Deutschland haben. Zudem ist ein schriftlicher Auftragsverarbeitungsvertrag (AVV) nach Art. 28 DSGVO verpflichtend, der eine Geheimhaltungsverpflichtung nach § 203 StGB enthält.
Seit August 2026 müssen alle Betriebe und Unternehmen die Transparenzpflicht für Systeme mit begrenztem Risiko flächendeckend umsetzen (Art. 50 AI Act): Über die Interaktion mit KI muss vorher informiert sowie KI-generierte/ -manipulierte Inhalte müssen als solche deutlich gekennzeichnet werden. Dazu gehören:
- KI-Systeme mit Interaktion: z. B. Chatbots, Telefon-/bzw. Sprachassistenten, zudem müssen die eingesetzten KI-Tools im Impressum/in den Datenschutzhinweisen namentlich und mit Verarbeitungszweck aufgeführt werden.
- KI-generierte/-manipulierte (öffentliche) Texte: z. B. auf der Website, Fachartikel, etc.; KI-Texte sind von der Kennzeichnungspflicht ausgenommen, wenn sie von einer natürlichen Person überprüft/überarbeitet wurden und jemand die redaktionelle Verantwortung für das Ergebnis trägt. Betriebsinterne Texte sind von der Kennzeichnung oft ausgenommen.
- Deepfakes und synthetische Medien: KI-generierte oder manipulierte Bild-, Audio- oder Videodateien (Deepfakes), die echten Personen, Orten oder Ereignissen täuschend ähnlich sehen, müssen sichtbar und deutlich wahrnehmbar als KI-Erzeugnis gekennzeichnet werden. Davon ausgenommen sind i. d. R. offensichtlich künstliche Werke.
Verstöße gegen diese Transparenzpflichten können Geldbußen von bis zu 15 Millionen Euro oder 3 Prozent des (weltweiten) Jahresumsatzes nach sich ziehen. Für kleine Betriebe (KMU) und Arztpraxen gilt jedoch eine Schutzregelung, nach der stets der jeweils niedrigere Betrag die Obergrenze bildet und die Strafe somit verhältnismäßig am Praxisumsatz gedeckelt ist.
Quelle: meditaxa Redaktion | Quellen: EU AI Act, ihk.de, bundesregierung.de, noai.ai, Digital Health Report 2026 von Doctolib, kbv.de