Forschende fordern Warnhinweise

Studie: Apothekerin oder Chatbot?

, Uhr
Erlangen -

Viele Menschen recherchieren online zu Medikamenten, doch Forschende warnen davor, sich zu sehr auf Chatbots zu verlassen. Eine Studie zeigt, dass KI-gestützte Suchmaschinen häufig falsche oder unklare Informationen liefern. Im Fachjournal „BMJ Quality & Safety“ fordern die Forschenden deshalb klare Warnhinweise für Nutzerinnen und Nutzer

„Ein zentrales Ergebnis unserer Untersuchung ist, dass die Qualität der Chatbot-Antworten bislang nicht zur sicheren Anwendung für Nutzer ausreichend ist“, erläuterte Erstautor Wahram Andrikyan vom Institut für Experimentelle und Klinische Pharmakologie und Toxikologie der Universität Erlangen. „Ein deutlicher Hinweis, dass die vom Chatbot bereitgestellten Informationen keinen professionellen Rat ersetzen können, ist unserer Meinung nach daher unerlässlich.“

Risiko für Patientinnen und Patienten

Ausgangspunkt der Studie sei die Erfahrung gewesen, dass sich Patientinnen und Patienten im Internet über verschriebene Medikamente informierten. Deshalb stellten die Forschenden dem KI-gestützten Chatbot der Microsoft-Suchmaschine Bing im April 2023 zehn häufige Fragen zu den 50 meist verordneten Medikamenten in den USA, darunter Fragen zur Einnahme, zu Nebenwirkungen oder Gegenanzeigen.

Generell habe der Chatbot die Fragen mit hoher Vollständigkeit und Genauigkeit beantwortet, sagte Andrikyan. Doch bei manchen Fragen sei das nicht der Fall gewesen. „Dies birgt ein Risiko für Patienten, da sie als medizinische Laien die Genauigkeit und Vollständigkeit der KI-generierten Antworten selbst nicht einschätzen können“, sagte Andrikyan.

Fortschritt nicht zufriedenstellend

Zwar habe es seit der Untersuchung im vergangenen Jahr rasante Fortschritte bei KI-gestützten Suchmaschinen mit integrierter Chatbot-Funktion gegeben, betonte der Experte. Die Verbesserungen seien aber nicht ausreichend, die Risiken für die Patientensicherheit blieben bis auf weiteres bestehen. Da Chatbots jedoch mit unterschiedlichen Datensätzen trainiert werden, hält er es für sinnvoll, die Sicherheit und Qualität anderer technischer Systeme ebenfalls zu untersuchen.

Newsletter
Das Wichtigste des Tages direkt in Ihr Postfach. Kostenlos!

Hinweis zum Newsletter & Datenschutz

Neuere Artikel zum Thema
Mehr zum Thema
Die ersten 1000 Lebenstage sind entscheidend
Frühe Zuckerbremse mindert Risiko für Diabetes
Wirkung nicht geschlechterabhängig
ASS: Kein Unterschied bei Mann und Frau
Signifikant geringeres Risiko
Schützt Semaglutid vor Alzheimer-Demenz?
Mehr aus Ressort
Herz-Kreislauf-Erkrankungen
Prävention: Dauer-EKG beim Autofahren
Lieferengpass in allen Stärken
Pegasys fehlt bis Mitte 2025
Wissenschaftler machte Selbstversuch
PFAS-Chemikalien: Manche werden schnell ausgeschieden

APOTHEKE ADHOC Debatte