Ausgangspunkt der Studie sei die Erfahrung gewesen, dass sich Patienten im Internet über verschriebene Medikamente informierten. Deshalb stellten die Forscher einem KI-gestützten Chatbot zehn häufige Patienten-Fragen zu 50 Medikamenten, darunter Fragen zur Einnahme, zu Nebenwirkungen oder Gegenanzeigen. 

Generell habe der Chatbot die Fragen mit hoher Vollständigkeit und Genauigkeit beantwortet, heißt es. Doch bei manchen Fragen sei das nicht der Fall gewesen. "Dies birgt ein Risiko für Patienten, da sie als medizinische Laien die Genauigkeit und Vollständigkeit der KI-generierten Antworten selbst nicht einschätzen können", warnt Wahram Andrikyan vom Institut für Experimentelle und Klinische Pharmakologie und Toxikologie der Universität Erlangen. Die Untersuchung habe gezeigt, dass die Qualität der Chatbot-Antworten bislang nicht zur sicheren Anwendung für Nutzer ausreichend sei.

Die Forscher haben die Studie mit dem Chatbot "Bing" von Microsoft durchgeführt und ihre Ergebnisse im Fachjournal "BMJ Quality & Safety" veröffentlicht. Der Google-Chatbot "Gemini" schied demnach für die Studie aus, da er sich regelmäßig weigere, medizinische Fragen zu beantworten. Da Chatbots jedoch mit unterschiedlichen Datensätzen trainiert werden, hält Andrikyan es für sinnvoll, die Sicherheit und Qualität anderer technischer Systeme ebenfalls zu untersuchen.