Gezielte Pharmawerbung verändert den Fokus von KI-Chatbots bei Therapieempfehlungen

Werbebotschaften der Pharmaindustrie können Therapieempfehlungen generativer KI messbar verzerren. Eine Analyse von zwölf Sprachmodellen belegt, dass Antworten trotz Leitlinienkonformität durch kommerzielle Interessen geprägt werden.

Automatisch mit KI zusammengefasst aus Deutsches Ärzteblatt. Bitte das Original prüfen.

Wenn Patienten oder Fachkräfte generative Sprachmodelle zu Behandlungsoptionen befragen, fließen möglicherweise subtile Marketingeinflüsse in die Antworten ein. Zu diesem Ergebnis kommt eine wissenschaftliche Untersuchung in der Fachzeitschrift The Lancet Digital Health, bei der das Verhalten von zwölf gängigen KI-Modellen analysiert wurde. Die Auswertung verdeutlicht, dass Reklame für Medikamente die von den Systemen generierten Empfehlungen nachweislich modifiziert. Die generierten Ratschläge stehen dabei nicht zwingend im Widerspruch zu etablierten medizinischen Leitlinien. Das Risiko besteht vor allem in einer veränderten Priorisierung: Kommerziell beworbene Präparate oder Therapiewege werden in den Textausgaben oft prominenter platziert oder stärker gewichtet als gleichwertige Alternativen. Für den künftigen Einsatz von KI-Anwendungen in der Gesundheitsversorgung unterstreichen die Studienautoren die Notwendigkeit strenger Kontrollmechanismen. Damit digitale Assistenten im Versorgungsalltag verlässlich bleiben, sind umfassende Transparenz über die Trainingsdaten, strikte Unabhängigkeit von Werbeetats sowie die lückenlose Offenlegung potenzieller Interessenkonflikte unerlässlich. Quelle: Deutsches Ärzteblatt