KI in der Pathologie: Experten warnen vor Diagnose-Bias durch Probenherkunft

Experten weisen auf ein Risiko bei KI-Anwendungen in der Pathologie hin: Algorithmen könnten die Herkunft von Gewebeproben in ihre Diagnosen einbeziehen, was zu Verzerrungen führen kann. Es wird gefordert, Trainingsdaten und Modellarchitekturen so anzupassen, dass die Herkunft keinen Einfluss auf die medizinische Bewertung hat und die Objektivität der KI gewährleistet ist.

Künstliche Intelligenz (KI) hält zunehmend Einzug in die Pathologie, birgt jedoch laut einem Bericht des Deutschen Ärzteblatts spezifische Herausforderungen. Ein zentrales Problem ist die mögliche Verzerrung diagnostischer Einschätzungen: KI-Modelle können die Herkunft von Gewebeproben oft anhand der Aufbereitungsart identifizieren und diese Information unzulässig in ihre Bewertung einbeziehen. Diese Voreingenommenheit, auch Bias genannt, kann die Objektivität der KI-basierten Diagnose beeinträchtigen, da der Ursprung einer Probe medizinisch irrelevant für die Befundung ist. Um solche Bias-Effekte zu vermeiden, betonen Fachleute die Notwendigkeit einer sorgfältigen Gestaltung von Trainings- und Validierungsdatensätzen. Diese müssen so zusammengestellt werden, dass sie die Herkunftsinformationen neutralisieren und eine objektive Beurteilung fördern. Diese Anforderung ist besonders kritisch für KI-Systeme, die direkt in die automatisierte Befundung oder Entscheidungsunterstützung integriert werden und somit unmittelbaren Einfluss auf klinische Entscheidungen haben. Die Diskussion um Fairness, Robustheit und Generalisierbarkeit von KI-Modellen ist ein branchenübergreifendes Thema in der medizinischen KI, das auch in anderen Disziplinen wie der Thoraxonkologie geführt wird. Angesichts der europäischen KI-Regulierung stehen medizinische Hochrisiko-Anwendungen verstärkt im Fokus, wobei systematische Verzerrungen und Transparenzanforderungen genau geprüft werden. Für die Implementierung digitaler Pathologie-Workflows in Krankenhäusern und Laboren ist daher eine enge interdisziplinäre Zusammenarbeit zwischen IT, Pathologie und Regulierungsbehörden unerlässlich, um technisch fundierte sowie methodisch und ethisch verantwortbare KI-Systeme zu gewährleisten. Quelle: Deutsches Ärzteblatt