KI-Symptom-Checker auf der Website: Die Zweckbestimmung entscheidet, nicht das Wort Chatbot
Terminservice oder individuelle medizinische Entscheidungshilfe? Warum Betreiber den Zweck und die Grenzen eines Website-Assistenten sauber festlegen müssen.
Redaktioneller Stand:
Hintergrund & Quellenbefund
Ein Assistent, der Öffnungszeiten erklärt, erfüllt eine andere Aufgabe als Software, die individuelle Symptome bewertet und daraus diagnostische oder therapeutische Hinweise ableitet. Die MDCG-Leitlinie zur Softwarequalifikation stellt auf die medizinische Zweckbestimmung und die tatsächliche Funktion ab. Ein bloßer Hinweis, das Angebot sei unverbindlich, löst diese Prüfung nicht auf. [1]
Ist eine Anwendung als Medizinproduktsoftware qualifiziert, folgt die Klassifizierung nach den einschlägigen Regeln. Regel 11 unterscheidet insbesondere die Folgen der auf den Informationen beruhenden Entscheidungen. Die Einstufung hängt also nicht daran, ob der Dienst auf einer Website oder in einer installierten App läuft. [1]
Wenn Besucher Gesundheitsinformationen eingeben, sind zudem die Voraussetzungen ihrer Verarbeitung zu klären. Eine medizinprodukterechtliche Bewertung beantwortet nicht automatisch die Datenschutzfragen; Zweck, Rechtsgrundlage, erforderliche Daten und Empfänger bleiben eigenständig zu prüfen. [2]
Einordnung & Grenzen
Nicht jeder Website-Chatbot ist ein Medizinprodukt, und nicht jede medizinische Software gehört derselben Risikoklasse an. Dieser Beitrag leitet auch keine automatische Hochrisiko-Einstufung nach dem AI Act ab. Für dessen Anforderungen wäre eine zusätzliche, aktuelle Prüfung des konkreten Systems erforderlich.
Einfach erklärt
Fiktives Praxisbeispiel: Eine Praxis möchte zunächst nur Termine und Anfahrtsinformationen erklären. Im Test beginnt der Bot jedoch, persönliche Beschwerden zu bewerten. Das Team behandelt dies nicht als nette Zusatzfunktion, sondern als Abweichung vom vorgesehenen Einsatz und begrenzt oder bewertet das System neu.
Empfehlungen für die Praxis
Unsere Empfehlung: Schreiben Sie vor der Integration auf, welche Fragen das System beantworten darf und welche nicht. Gleichen Sie Werbung, Oberfläche, Herstellerunterlagen und tatsächliche Antworten miteinander ab. Eine auf der Startseite versprochene individuelle Diagnose passt nicht zu einer internen Einstufung als reiner Terminservice.
Fordern Sie bei medizinischen Funktionen die einschlägige Zweckbestimmung und Konformitätsunterlagen an. Lassen Sie die regulatorische Abgrenzung fachkundig prüfen, bevor echte Patienteneingaben zugelassen werden.
Sorgen Sie für einen verständlichen Hinweis auf Notfallwege und menschliche Ansprechpartner. Begrenzen Sie Datenerhebung und Zugriffe; vermeiden Sie die Weitergabe sensibler Eingaben an Werbe- oder Analysedienste. Testen Sie mit erfundenen Fragen auch, ob der Bot seine Grenzen einhält. Ein Warntext ist wichtig, ersetzt aber keine geeignete technische und organisatorische Gestaltung.