„KI ist nicht die Lösung für alles“

Berlin -

„KI ist wie ein Schweizer Taschenmesser – sehr nützlich in bestimmten Situationen, aber nicht die Lösung für alles“, sagt Dr. Amir Reza Ashraf, Apotheker und Senior Lecturer an der Universität Pécs in Ungarn. In Apotheken könne KI bereits bei der Tablettenerkennung und der Analyse von Medikamenteninteraktionen unterstützen, doch Fachwissen bleibe unverzichtbar – vor allem, um die Ergebnisse korrekt einzuordnen und zu kontrollieren.

Ashraf beschäftige sich seit Jahren mit dem Einfluss von KI in der Pharmazie. „KI ist wie ein Schweizer Taschenmesser – sehr nützlich in bestimmten Situationen, aber nicht die Lösung für alles.“

KI in der Praxis

Gemeinsam mit seinem Team entwickelte er unter anderem eine KI-Anwendung zur Tablettenerkennung. Während der Tests funktionierte das System in 91 Prozent der Fälle korrekt, zeigte jedoch Einschränkungen durch unterschiedliche Licht- und Bildverhältnisse. Getestet wurden auch Angebote von Google, Microsoft und Amazon sowie ein Modell mit YOLO11-Objekterkennung. Dabei zeigte sich, dass eine Erhöhung der Bilddaten nicht automatisch zu besseren Ergebnissen führt.

Auch bei der Untersuchung von Medikamenteninteraktionen stellte sich heraus, dass KI relevante Wechselwirkungen erkennen kann, gleichzeitig aber viele falsche Ergebnisse liefert. Bei 57 realen Fällen mit 204 klinisch relevanten Interaktionen erkannte KI die Wechselwirkungen, erzeugte jedoch zahlreiche „Halluzinationen“. „Man darf sich nicht blind auf KI verlassen, man muss sie immer überprüfen und selbst die endgültige Entscheidung treffen.“

Im Bereich des Online-Handels untersuchte Ashraf, wie KI-Plattformen Patient:innen informieren. Dabei zeigte sich, dass manche Suchergebnisse auf illegale Versender hinwiesen. Konkret wurde die Plattform „Semaspace“ für den Kauf von Semaglutid empfohlen, obwohl sie später von der FDA geschlossen wurde. Ashraf betont: „Wir testeten den Kauf tatsächlich und stellten fest, dass die Website typische Merkmale illegaler Versender aufwies.“

Antwortqualität ist beeinflussbar

Auch der Einsatz von ChatGPT und anderen KI-Plattformen wurde untersucht. Bis Mitte Juli nutzten 700 Millionen wöchentlich aktive Nutzer die Plattform, die 2,5 Milliarden Nachrichten pro Tag beziehungsweise 29.000 pro Sekunde generierten.

Fast die Hälfte der Nachrichten beinhaltete Ratschläge, insbesondere von Erwachsenen unter 29 Jahren. Rund 6 Prozent dieser Nachrichten betrafen gesundheits- und selbstpflegerelevante Fragen.

Fachkräfte im Gesundheitswesen nutzen KI im Beratungskontext – und treffen teilweise Entscheidungen basierend auf den Informationen der KI. „Als Apotheker weiß ich, wie schmerzhaft es ist, wenn ein Patient hereinkommt und sagt: ‚Ich habe Dr. Google gefragt‘ – und heutzutage sagt er: ‚Ich habe ChatGPT gefragt. Was würden Sie empfehlen?‘ Man kann dann immer sagen, dass man der Experte ist, studiert hat und helfen kann, den Rat der KI zu verstehen.“

Fachkräfte im Gesundheitswesen nutzen KI für Beratung und treffen teilweise Entscheidungen basierend auf den Informationen der KI. Ashraf betont, dass die Qualität der KI-Ergebnisse stark von den Anweisungen abhängt, die man der KI gibt: „Wenn man der KI keine klaren Anweisungen und gute Prompts gibt, kommt es in vielen Fällen zu irreführenden Antworten.“

KI-Tools im Pharmaziestudium

Bei seinen Pharmaziestudierenden beobachtete Ashraf, dass sie bei Aufgaben vermehrt auf KI-Tools zurückgreifen. „Wenn Studierende ChatGPT verwenden, um Aufgaben zu lösen, muss man ihnen zeigen, dass die Ergebnisse nicht immer korrekt sind und wie man sie kritisch bewertet.“ Auf diese Weise können angehende Apothekerinnen und Apotheker lernen, KI als Hilfsmittel zu nutzen, ohne sich blind auf die Antworten zu verlassen.

Ashraf schätzt, dass Big-Data-Unternehmen von KI in der Pharmazie profitieren könnten: „Sie werden in der Lage sein, das Wissen von Apothekerinnen und Apothekern oder Ärztinnen und Ärzten zu nutzen, um bessere Modelle zu trainieren und bessere Anwendungsfälle zu finden.“

Er betont außerdem, dass die Zusammenarbeit von Fachkräften mit KI-Entwicklern wichtig ist. Ärzte, Apotheker und andere Expert:innen sollten während der Entwicklung und Anwendung von KI-gestützten Systemen aktiv einbezogen werden.

 

Die gesamte Konferenz zum Nachschauen gibt es hier (ab 31:21):