Der Computer sagt nein. Und du?
Hallo.
heute Morgen um 6 Uhr ist eine neue Folge meines Podcasts Klartext live gegangen. Thema: Automation Bias — die Neigung, dem Vorschlag eines automatisierten Systems zu folgen, auch wenn der eigene Blick etwas anderes sagt.
Wenn du sie noch nicht gehört hast — hör sie dir an. Da steckt die ganze Geschichte drin: die Studie, die ich mit Daniel Pinto dos Santos gemacht habe, die Psychologie dahinter, die Piloten, die den falschen Motor abschalten.
Dieser Newsletter ist nicht die Zusammenfassung der Folge. Er ist das, was nach dem Mikrofon kommt. Die eine Frage, die mich am meisten beschäftigt — und über die man im Alltag am wenigsten redet:
„Was machst du eigentlich, wenn der Computer und dein Bauchgefühl sich widersprechen?"
Ein Fall, über den man fast stolpern musste
Im Mai habe ich in unserem Fall des Monats bei LernRad einen Fall gezeigt, der mich nicht loslässt. Eine Raumforderung in der Lunge. Riesig. Zentral gelegen. Nichts Subtiles, nichts an der Wahrnehmungsgrenze — etwas, über das man beim Durchscrollen fast fallen musste.
Die KI: negativ. Kein Befund. Und die Person, die befundet hat, hat sie übersehen.
Ich erzähle das nicht, um jemanden bloßzustellen. Im Gegenteil. Ich erzähle es, weil es mir genau deshalb Angst macht: Das war kein schludriger Mensch und keine schwierige Aufnahme. Das war Automation Bias in Reinform. Das System hatte gesagt „hier ist nichts" — und der Kopf hat das Bild nicht mehr ergebnisoffen angesehen, sondern nur noch bestätigt, was die Maschine schon behauptet hatte.
Ich habe das nicht nur einmal gesehen. Gerade bei der Lunge passiert es häufig, weil KI dort am verbreitetsten ist. Je selbstverständlicher das Tool im Workflow sitzt, desto leiser wird der eigene Zweifel. Und ja — ich nehme mich da nicht aus. Aber dazu gleich.
Warum die Reihenfolge alles entscheidet
In der Folge sage ich einen Satz, der einfach klingt und der trotzdem der Kern von allem ist:
Erst selbst schauen. Dann die KI.
Das ist keine Stilfrage. Es ist der Unterschied zwischen einem Werkzeug und einer Krücke — und der Unterschied liegt allein darin, wer zuerst denkt.
Wenn ich ein Tool zur Lungenrundherd-Detektion benutze, schaue ich zuerst eigenständig. Ich forme mir ein Urteil, ich lege mich auf einen Befund fest — und erst dann nehme ich die KI dazu. Als Second Read. Als Sicherheitsnetz. Nicht als Erstmeinung.
Warum diese Reihenfolge so wichtig ist, sieht man am besten, wenn man sie umdreht. Wer zuerst auf das KI-Ergebnis schaut, befundet nicht mehr das Bild. Er bewertet einen Vorschlag. Das ist eine völlig andere kognitive Aufgabe — und eine viel schwächere. Aus „Was sehe ich?" wird „Stimmt das, was die KI sagt?". Und auf die zweite Frage antwortet unser Gehirn unter Zeitdruck fast immer mit „ja".
Das ist keine Charakterschwäche. Das ist Neurobiologie, und sie trifft erfahrene Kolleg:innen genauso wie Berufsanfänger:innen — das hat unsere Studie schwarz auf weiß gezeigt. Die Reihenfolge ist die einzige Stellschraube, die du wirklich in der Hand hast. Sie kostet keine Software und keine neue Leitlinie. Sie kostet nur die Disziplin, den eigenen Blick zuerst zu fragen.
Woran du merkst, dass es kippt
Jetzt kommt der ehrliche Teil. Denn ich erzähle das hier nicht von einem Podest herab. Ich habe mich selbst dabei ertappt, nach Lungenrundherden nicht mehr so gründlich zu suchen wie früher. Der Gedanke schleicht sich ein: Die KI läuft ja mit, die fängt das schon. Und schon ist die eigene Suche eine Spur oberflächlicher. Nicht aus Faulheit. Sondern weil das Gehirn ein Energiesparer ist und jede angebotene Abkürzung dankbar nimmt.
Das ist der Moment, in dem es kippt. Nicht mit einem großen Fehler, sondern mit einer schleichenden Bequemlichkeit. Und hier muss ich ehrlich sein: Was dann mit der Kompetenz selbst passiert — was es langfristig bedeutet, wenn wir verlernen, was wir ohne das System sehen — das ist ein eigenes, größeres Thema. Es heißt Deskilling, und es ist die nächste Klartext-Folge. Es verdient mehr als einen Absatz hier.
Für heute reicht die kleinere, praktischere Frage: Woran merkst du, dass dein eigener Blick anfängt nachzulassen? Ein guter Indikator ist genau dieser Reflex — wenn du dich dabei beobachtest, wie du ein Bild ansiehst und innerlich schon auf das KI-Ergebnis wartest, statt selbst zu suchen. Das ist das Warnsignal. Nicht der eine übersehene Befund, sondern die Gewöhnung davor.
Der unbequeme Teil — und warum ich es trotzdem sage
Ich weiß, wie das hier klingt. Da komme ich daher und erzähle etwas von „Qualität" und davon, dass man sich nicht auf die KI verlassen soll — während draußen die Befundungslisten immer länger werden und der Tag nicht mehr.
Ich war selbst da. Ich weiß, wie sich das anfühlt: wie ein Kampf gegen Windmühlen. „Erst selbst schauen, dann die KI" ist leicht gesagt, wenn niemand mit der Stoppuhr hinter dir steht. In einem System, in dem es vor allem um Durchsatz geht, ist KI auf dem besten Weg, genau das zu werden: ein Effizienz-Booster, der den eigenen Blick überflüssig machen soll, nicht schärfen. Und genau deshalb müssen wir über Automation Bias reden. Nicht obwohl der Druck so groß ist — sondern weil er so groß ist.
„Unsere Befundqualität ist nicht das Sahnehäubchen, das man sich leistet, wenn gerade Zeit ist. Sie ist die Existenzfrage unseres Fachs." Bettina Baeßler · Juni 2026
Wenn das Einzige, was wir noch tun, das Abnicken von KI-Vorschlägen ist, dann haben wir uns selbst überflüssig gemacht — und zwar genau in dem Moment, in dem wir am dringendsten gebraucht würden. Die menschliche Radiologin rechtfertigt sich nicht über Geschwindigkeit. Die KI ist immer schneller. Wir rechtfertigen uns über Urteilsvermögen. Über den Blick, der dem System widerspricht, wenn das System falsch liegt.
Das ist kein Plädoyer gegen KI. Gut implementierte KI verbessert die Detektion, reduziert Intervallkarzinome, rettet Leben. Das ist real. Aber KI ist ein Werkzeug. Kein Urteil. Und der Unterschied zwischen beidem bist du.
Was du heute tun kannst
Eine einzige Sache, klein genug für morgen früh: Nimm dir bei der nächsten Untersuchung, bei der ein KI-Tool mitläuft, bewusst die Sekunden, zuerst selbst zu schauen. Leg dich innerlich fest, bevor du das KI-Ergebnis siehst. Und beobachte, wie oft dein erster eigener Eindruck mit dem System übereinstimmt — und wie es sich anfühlt, wenn nicht.
Bei LernRad ist genau dieses Prinzip Teil unserer DNA: Wir bilden am Fall aus, vom Bild zum Befund, mit dem eigenen Blick zuerst. Nicht, weil wir KI ablehnen — sondern weil ein geschulter Blick die Voraussetzung dafür ist, KI überhaupt sinnvoll nutzen zu können.
Schreib mir
Hast du der KI mal widersprochen — und recht behalten? Oder siehst du das ganz anders?
Bis zum nächsten Mal,
— Bettina Baeßler
P.S. Die heutige Klartext-Folge zu Automation Bias gibt es hier: bettina-baessler.de/klartext. Und nächstes Mal wird's um Deskilling gehen.