1689 1690 1691 Empfehlung | Praxisführung | Digitalisierung

Künstliche Intelligenz in der zahnärztlichen Praxis

Rechtsrahmen, Berufsrecht und Checklisten für die Praxis

Bundeszahnärztekammer

Einführung

Künstliche Intelligenz (KI): „KI-Systeme sind von Menschen konzipierte, aus Hardware- und/oder Softwarekomponenten bestehende intelligente Systeme, die zum Ziel haben, komplexe Probleme und Aufgaben in Interaktion mit der und für die digitale oder physische Welt zu lösen“. Dies ist eine von vielen Definitionen und stammt aus dem Abschlussbericht einer Enquete-Kommission des Deutschen Bundestags aus dem Jahr 2020.

Heute, nur wenige Jahre später ist KI ein Teil unserer Alltagswelt. Bild- und Spracherkennungsprogramme, Navigationssysteme, Übersetzungshilfen und Chatbots: Dies sind nur ein paar Beispiele für KI-Anwendungen, die wir bereits heute nutzen und die uns bei den Verrichtungen des täglichen Lebens unterstützen. Und die Entwicklungen sind rasant, das zumindest lehren die bisherigen Erfahrungen.

Auch in der Zahnmedizin halten KI-gestützte Anwendungen Einzug in die Praxis. Spezifisch zahnmedizinische KI wird z.B. für die Analyse von Röntgenbildern und digitalen Modellen eingesetzt und ist in Designinstrumenten für die Planung und Herstellung von Restaurationen und kieferorthopädischen Apparaturen enthalten. Anwendungsfälle sind fast überall denkbar: in allen Fachgebieten der Zahn-, Mund- und Kieferheilkunde und über den gesamten Verlauf der zahnärztlichen Behandlung hinweg; von der Befundung über die Diagnose bis hin zur Therapieplanung, -ausführung und -kontrolle.

Ein großes Thema sind auch sprachgesteuerte Assistenzsysteme. Sie sollen (zahnärztliches) Personal bei Routinetätigkeiten wie der Behandlungsdokumentation oder Praxisverwaltung entlasten. Zu diesen Modellen gehören Dokumentations- und Telefonassistenten genauso wie Systeme, die bei Terminvergaben, der Bearbeitung von Patientenanfragen, der Gestaltung von Praxishomepages u.a.m. unterstützen.

Aktueller Rechtsrahmen

KI-Verordnung der EU

2024 hat die Europäische Kommission die KI-Verordnung (EU 2024/1689) erlassen und damit erstmals einen einheitlichen Rechtsrahmen für KI-Anwendungen aller Art definiert. Betreiber von KI-Systemen – das können auch Zahnärztinnen und Zahnärzte sein – müssen demnach dafür Sorge tragen, dass alle Personen, die mit der Nutzung von KI befasst sind, über eine ausreichende KI-Kompetenz verfügen (Artikel 4). Sie haben zudem die Pflicht, Patienten und Patientinnen darüber zu informieren, wenn sie vom Einsatz einer KI betroffen sind (Artikel 26, 50).

KI-Systeme mit zahnmedizinischer Zweckbestimmung (KI-Software in Medizinprodukten der Risikoklasse IIa oder höher) werden darüber hinaus nach den Vorgaben der KI-Verordnung als Hochrisiko-KI klassifiziert. Für Hersteller bedeutet dies, dass sie eine Konformitätsbewertung durchlaufen müssen und ihr Produkt nur mit CE-Kennzeichen und ausführlicher Betriebsanleitung ausliefern dürfen. Letztere muss Angaben zur Zweckbestimmung, zu Merkmalen, Fähigkeiten, Leistungsgrenzen sowie zu Maßen an Genauigkeit, Robustheit und Cybersicherheit enthalten. Zu den Pflichten der Betreiber wiederum gehört es, sicherzustellen, dass ein solches Hochrisiko-KI-(Medizin)Produkt nur gemäß Betriebsanleitung und ausschließlich unter menschlicher Aufsicht betrieben wird. Ggf. muss eine Datenschutzfolgeabschätzung durchgeführt (Artikel 26). Diese Pflichten für Hochrisiko-KI in Medizinprodukten gelten ab dem 02.08.2027.

Datenschutzgrundverordnung der EU

KI-Anwendungen verarbeiten Daten. Sobald diese personenbezogen sind, gelten die Bestimmungen der EU-Datenschutzgrundverordnung (DSGVO). Gesundheitsdaten wiederum werden in der DSGVO als besondere Kategorie von personenbezogenen Daten definiert, für deren Verarbeitung zusätzliche Anforderungen erfüllt sein müssen. KI-Anwendungen unterliegen damit den Regelungen der DSGVO und weiteren spezifischen, deutschen Datenschutzbestimmungen. Dabei ist es unerheblich, ob eine KI-Anwendung im Kontext der Praxisverwaltung oder der Behandlung eingesetzt wird.

Medizinprodukterecht

KI-Systeme, die zu (zahn-)medizinischen Zwecken verwendet werden, sind Medizinprodukte, d. h. es gelten die europäischen und nationalen Bestimmungen für das Inverkehrbringen und den Betrieb von Medizinprodukten. Das Medizinprodukterecht sieht allerdings vor, dass Hersteller im Rahmen des gesetzlich vorgeschriebenen Zertifizierungsverfahrens Softwarekomponenten nur in der Version validieren lassen können, wie sie im fertigen Produkt verwendet wird. Gegenwärtig ist eine Zulassung als Medizinprodukt innerhalb der EU also nur dann möglich, wenn die KI-Anwendung „fertig“ trainiert ist. Man spricht hier auch von statischer KI – in Abgrenzung zu dynamischen Systemen. Letztere entwickeln sich im laufenden Betrieb mithilfe neu gesammelter Daten kontinuierlich weiter. Wie sich die Umsetzung der KI-Verordnung auf das Medizinprodukterecht auswirken wird, lässt sich derzeit nicht realistisch voraussagen.

KI und Berufsrecht

KI-Anwendungen werden die Arbeitswelt und einzelne Berufsbilder verändern. Aktuelle Debatten kreisen etwa um die Frage, inwieweit KI in der Zukunft menschliches Handeln unterstützen und menschliche Handlungsspielräume erweitern kann oder ob sie im Gegenteil diese verengen wird und KI im extremsten Fall den Menschen sogar ersetzen wird.

Aus berufsrechtlicher Perspektive steht die eigenverantwortliche Berufsausübung der Zahnärztin oder des Zahnarztes auch beim Einsatz von KI-Anwendungen zu jeder Zeit im Vordergrund. Zahnärzte und Zahnärztinnen bleiben auch beim Einsatz von KI-Anwendungen persönlich voll verantwortlich.

Checkliste

Wie bei jeder neuen Technologie stehen Zahnärztinnen und Zahnärzten auch bei KI-Systemen vor der Frage, worauf sie vor einer möglichen Anschaffung und Inbetriebnahme achten sollen. Diese Checkliste soll sie dabei unterstützen, die richtigen Fragen zu stellen, die für eine solche Entscheidung wichtig sind. Aspekte von allgemeiner Relevanz wie die Kosten eines KI-Systems oder sein Leistungsumfang werden nicht behandelt.

Hinweise

  • Die Checkliste ist in der Hauptsache für KI-Anwendungen mit Zulassung als Medizinprodukt (nicht für Produkte in der Testphase) gedacht.
  • Die Checkliste erhebt keinen Anspruch auf Vollständigkeit. Es gelten u. a. weiterhin die Vorgaben der EU-Datenschutzgrundverordnung (insbesondere Artikel 5), europäische und nationale Bestimmungen zum Medizinprodukterecht sowie die Berufsordnungen der (Landes-)Zahnärztekammern.
  • Für eine vertiefende Lektüre empfehlen wir u. a.:
  • Die Checkliste ist als Fragenkatalog zur eigenen Entscheidungsfindung konzipiert. Es kommt nicht darauf an, dass Sie eine Mindest- oder Höchstzahl von Fragen mit ja oder nein beantworten. Vielmehr wollen wir Ihnen ein Werkzeug an die Hand geben, das Sie dabei unterstützt, die für Sie passende Entscheidung zu treffen.

Datenschutz und Datenzugriff

KI-Anwendungen in der Zahnmedizin verarbeiten regelmäßig personenbezogene (Gesundheits-)Daten. Diese Datenverarbeitungen können zu unterschiedlichen Zwecken erfolgen, die jeweils datenschutzrechtlich zu beurteilen sind. Bspw. können die Zwecke der Verarbeitung einer Primärnutzung (Behandlung, Versorgung) oder aber auch einer Sekundärnutzung (z. B. Training, Erprobung und Bewertung von Algorithmen) dienen. Beim Einsatz von KI-Anwendungen in der Praxis steht deshalb die Leitung in der Pflicht, die datenschutzrechtlichen Vorgaben einzuhalten. BZÄK und KZBV haben zu diesem Zwecke einen Datenschutz- und IT-Sicherheitsleitfaden herausgegeben, der vollumfänglich und vertiefend die damit verbundenen Fragen in unterschiedlichen Kapiteln erörtert. So kann der Fragenkatalog in der Checkliste auf Seite 78 des Leitfadens auch für den Einsatz von KI-Anwendungen entsprechend genutzt werden. Ebenso hilft das Muster auf Seite 80 für die Erstellung eines zu erhebenden Verfahrensverzeichnisses. Der Leitfaden ist online abrufbar unter:

Datenschutz & IT-Sicherheit in der Zahnarztpraxis

Sofern sich eine Zahnarztpraxis für den Einsatz einer KI-Anwendung entscheidet, wird empfohlen, sich mit den einzelnen Kapiteln des Leitfadens zu beschäftigen.

Als Einstieg ist es sinnvoll, sich mit folgenden Fragen vorab zu beschäftigen:

  • Gibt es nachvollziehbare Informationen darüber, welche Daten wie von der KI-Anwendung verarbeitet werden?
  • Gibt es nachvollziehbare Informationen darüber, wo diese Daten gespeichert und verarbeitet werden?
  • Gibt es nachvollziehbare Informationen darüber, ob bzw. inwieweit Daten von Dritten (bspw. des Herstellers der Anwendung) weiterverarbeitet werden (können)? (Wer – außer dem verantwortlichen Zahnarzt/der verantwortlichen Zahnärztin hat Zugriff auf die Daten? Wer wartet die Software? Werden in der Praxis generierte Daten zu Trainingszwecken genutzt? Ist ein Auftragsverarbeitungsvertrag notwendig? Bietet der Hersteller einen Vertrag zur Auftragsverarbeitung an? Sind besondere Geheimhaltungsvereinbarungen zu treffen?)
  • Gibt es nachvollziehbare Informationen darüber, welche Maßnahmen getroffen werden, um Daten zu schützen (Verschlüsselung etc.)?
  • Gibt es nachvollziehbare Informationen darüber, welche Informationspflichten gegenüber Patientinnen und Patienten bestehen und wie eine Einwilligung der Patientinnen und Patienten eingeholt und dokumentiert wird?

Funktionalität und Qualität

Zahnärztinnen und Zahnärzte, die Produkte mit KI-gestützter Software einsetzen wollen, sind für deren zweckbestimmten Betrieb verantwortlich. Bei der Beurteilung von Funktionalität und Qualität einer KI-Anwendung kann die Beantwortung der folgenden Fragen helfen:

  • Ist das Produkt als Medizinprodukt zugelassen und gibt es nachvollziehbare Informationen zur Risikoklasse des Produkts?
  • Sind Zweck, Funktionalität und Anwendungsbereich des KI-Systems konkret beschrieben?
  • Gibt es eine (elektronische) Gebrauchsanweisung für das Produkt?
  • Enthält die Gebrauchsanweisung alle relevanten Informationen und ist sie leicht verständlich?
  • Ist nachvollziehbar, in welchen Ländern die Daten erhoben wurden, an denen das Produkt trainiert und getestet wurde? (Wurden die Daten in einem oder in mehreren Zentren erhoben? Das Training an Daten aus mehreren Ländern kann von Vorteil sein)
  • Erlaubt das Produkt, die Logik einer Entscheidung nachzuvollziehen?

Mitglieder der Arbeitsgruppe KI im Ausschuss Digitalisierung

Ass. jur. Frank Hanneken | Dr. Dirk Leisenberg | Prof. Dr. Falk Schwendicke | Ass. jur. Sven Tschoepe, LL.M.

Bei Rückfragen

Abteilung Versorgung und Qualität, E-Mail: abt.vuq@bzaek.de 

Ausdruck - PDF