KI-basierte Systeme sind in der Medizintechnik längst etabliert, insbesondere in der Diagnostik. Ein zentrales, gut belegtes Risiko bleibt jedoch oft unbeachtet: der Automation Bias. Selbst erfahrene Ärztinnen und Ärzte verlassen sich unter Zeitdruck oder bei komplexen Befunden unkritisch auf KI-Empfehlungen, auch wenn diese ungenau, unzuverlässig oder unvollständig sind. Der Beitrag untersucht das Phänomen und zeigt Design- und Interventionsmöglichkeiten, um Automation Bias zu begegnen.
Diese Publikation ist Teil unseres Dossiers Medizintechnik: Künstliche Intelligenz und digitale Innovationen in der Praxis.