Warum Ärzte dem Algorithmus mehr glauben als ihren eigenen Augen I 251

00:00:00: der dir vor, ein Taxifahrer fährt mitten in der Nacht durch die Stadt und sein Navi sagt wird ihr in fünfzig Metern rechts abbiegen.

00:00:09: Der biegt auch rechts ab.

00:00:11: und dann das Problem wo er abbiegt befindet sich ein Fluss anstelle einer Straße.

00:00:19: Und ihr seht das Wasser sogar vor sich.

00:00:22: aber weil das Navi so überzeugend war fährt er trotzdem in den Flüssigenheit.

00:00:27: Und damit Hallo und herzlich willkommen bei DocsDivital, mein Name ist Alexandra Wittmer und ich freu mich dass du hier zuhörst.

00:00:35: zum Einstieg diese Geschichte und die meisten denken und du wahrscheinlich auch wie dumm das würde mir nie passieren in einen flusszufahren.

00:00:43: Ich habe doch Augen im Kopf.

00:00:46: soweit so gut dass es doch passieren kann möchte ich dir heute anhand einer Geschichte zeigen oder beziehungsweise nicht Geschichte, sondern an einer brandneuen Studie.

00:00:57: Die zeigt dass wir Ärzte und Ärzten im klinischen Alltag oft uns doch genauso verhalten wie dieser Traxifahrer handelt.

00:01:07: Wir sehen den Fluss Betrauen dem Algorithmus am Ende aber mehr als die Realität vor unseren Augen.

00:01:16: Ja, und das ist eine faszinierende Untersuchung aus dem Fach Journal PLOS Digital Health.

00:01:25: Da ging es genau um dieses Phänomen.

00:01:27: Und die Studie trägt ihr treffenden Namen Doctors versus Algorithm Physicians to Struggle To Learn from Evidence That Contradicts AI Suggestions.

00:01:40: Das Forscher-Team ran zwar so wie noch heißt er wollte herausfinden ob professionelle Ärzte und Ärzten in der Lage sind, eine offensichtliche fehlerhafte KI-Impfüllung überstimmen.

00:01:55: Wenn die klinischen Beweise direkt sogar vor ihren Augen lagen!

00:01:58: Und die Wissenschaftler haben dafür zwei Experimente mit echten Ärzern gemacht.

00:02:06: Im ersten Experiment bekam die Ärzter ein neues fiktives Medikament für eine fiktive Krankheit vorgestellt Und sie sahen am Bildschirm sechzig verschiedene Patienten.

00:02:19: Eine künstliche Intelligenz half ihnen dabei, diese Patienten einzuordnen.

00:02:25: Die KI ordnete diese Patienten in zwei Gruppen malen.

00:02:29: Die eine Gruppe hieß hochsensibel für das Medikament und die zweite weniger sensibel.

00:02:34: Die KI lag hierbei aber komplett falsch.

00:02:38: Das Medikamente halb eigentlich beiden Patientengruppen exakt gleich gut Und nach jeder Behandlung konnten die Ärzte auch direkt sehen, ob der Patient geheilt wurde oder ob das Medikament wirkungslos blieb.

00:02:54: Sie hatten also wirklich die klinische Effidenz direkt vor Augen und das ist sozusagen der Fluss aus der Metapher von Beginn an.

00:03:03: Was passierte?

00:03:05: Die Ärzten gaben den als hochsensibel eingestuften Patienten deutlich häufiger das Medikanent Und sie glaubten am Ende tatsächlich an eine bessere Wirkung bei dieser Gruppe.

00:03:19: Dabei hatten Sie die reale Heilungsrate direkt vor Ihren eigenen Augen völlig ignoriert und blind der KI vertraut, und das waren wirklich sehr ausgebildete Ärzte, die hatten schon um die dreizehn Jahre klinische Erfahrung.

00:03:34: Das ist schon erschreckend!

00:03:35: Und das zweite Experiment hat der ganzen Sache noch die Krone aufgesetzt.

00:03:40: Beim zweiten Mal war das Medikament ein komplettes Placebo und also hatte gar keinerlei Wirkung.

00:03:51: Wenn ein Patient gesund wurde, lag das ausschließlich an der Spontaneheilung und wiederklassifizierte die KE, die Patienten in Hochsensibil- und weniger sensibel.

00:04:01: Man sollte meinen dass die erfahrenden Mediziner diese Unwirksamkeit des Medikaments im laufenden Prozess merken aber die Realität sah völlig anders aus.

00:04:11: Die Ärzte gaben dieses komplett eine Anführungsstriche nutzloser Medikament bevorzugt, denen Patienten wie von der KI als hochsensibel markiert worden waren.

00:04:24: Und sie waren am Ende der festen Überzeugung dass es bei dieser Gruppe fantastisch gewirkt hat.

00:04:32: und dann stellt sich jetzt die Frage ja was ist denn da los?

00:04:35: Warum machen wir denn sowas eigentlich?

00:04:37: Ja warum fahren wir mal wieder ein schönes Bild zu bleiben das ich immer sehr eindrücklich finde?

00:04:44: Warum fahren wir mit den Taxi in den Fluss?

00:04:47: Und die Studie hat auch da eine Erklärung für gefunden.

00:04:50: Wahrscheinlich, vielleicht kennst du es sogar schon beide, eine garantiert.

00:04:53: Das sind zwei psychologische Phänomen.

00:04:56: Mena und zwar ist das erste der Automation Biles.

00:05:01: Es ist von uns ja durchaus bekannt.

00:05:05: Das ist sozusagen unser Blinderfleck für die Technologie.

00:05:09: also wenn ein Computer oder ein System uns eine Antwort vorgibt, dann neigen wir unkritisch diesen Vorschlag zu akzeptieren.

00:05:18: Ja und dieses Phänomen betrifft Leinen ja also auch unsere Patienten die KI nutzen genauso wie hochqualifizierte Experten und Fachkräfte.

00:05:28: Und das zweite psychologische Phänomene was sie beschrieben haben ist die Kausalitätselusion.

00:05:36: Und zwar ist das, wenn wir eine Behandlung mit einem Patienten durchführen und der danach zufällig gesund wird, verknüpft unser Gehirn das Kern sofort nach dem Ursache Wirkungsprozip.

00:05:47: Wir wissen eigentlich dass das Quatsch ist aber es wird ja auch häufig immer wieder natürlich von Patienten vorgebracht, aber auch wir tun das.

00:05:55: Wir überschätzen die Wirksamkeit massiv sobald zwei Ereignisse gleichzeitig auftreten Und diese KI-Klassifizierung zwischen Hochwirkung und wenigwirkum hat die Illusion auch bei den Ärztinnen und Ärzten in dieser Studie noch verstärkt.

00:06:15: Was bedeutet das jetzt für uns alle?

00:06:18: Natürlich sind KI-Systeme in der Medizin richtig eingesetzt, sicherlich eine extrem wichtige großartige Sache – sie wird nicht mehr weggehen!

00:06:30: die zukünftige Diagnostik und die Therapie und wird es immens prägen.

00:06:37: Und gleichzeitig dürfen wir aber unser klinisches Urteilsvermögen niemals an der Türschwelle abheben, wenn die Daten auch vor meinem deinem Augen der Algorithmus-Aussage widersprechen, grau deinen Augen.

00:06:56: Andernfalls sitzen wir wohl bald alle mit dem Taxi im Fluss und wundern uns über nasse Füße, Das wäre glaube ich nicht so gut.

00:07:06: Ich frag mich, bereiten wir uns gerade eigentlich vor?

00:07:12: Wissen?

00:07:12: viele Kolleginnen und Kollegen wissen überhaupt über die Nassenfüße?

00:07:16: Ich war vor zwei Wochen beim Medizinischen Fakultätentag und habe dort eine Kino genau über irgendeine Arztpatientenbeziehung besprochen mit dem Ziel der Idee... einen Eindruck zu geben, was jetzt schon alles möglich ist und was passiert draußen in den Paxen.

00:07:37: Wie Kali genutzt wird sowohl vom Patienten als auch von Ärzten.

00:07:42: aber sind wir schon vervorbereitet und werden unsere zukünftigen Medizinstudentinnen und Studenten mit dem nationalen Lernzieh-Katalog aber auch der ärztlichen Appropationsordnung vorbereitet?

00:07:54: Und da sehe ich noch großes Potenzial das in die richtige Richtung zu entwickeln, damit wir einfach nicht blind innen mit unserem Taxi und Nasselfüße bekommen sondern auch umlenken wenn das Navi etwas anderes sagt.

00:08:12: Und nicht uns blindlings auf die Entscheidungshilfen zuverlassen.

00:08:17: Denn es ist mal so schön gesagt ja der human in the loop Der Mensch in der Schleife Aber ich glaube immer leichter gesagt, als es dann wirklich getan ist und umgesetzt wird.

00:08:28: Und ich finde diese Studie beschreibt das wirklich sehr eindrücklich!

00:08:32: Wie läuft es bei dir?

00:08:33: Wie läuft das bei Ihnen in der Klinik oder in der Praxis?

00:08:37: Das hat natürlich für zukünftige Medikationen, Diagnostika-Teilungen einen riesigen Einspruch.

00:08:44: Werdet ihr, wie es du darauf vorbereitet?

00:08:46: weißt du, gut nach dem Scheit schreibe mir gerne.

00:08:49: Ich freue mich über jede Nachricht und wenn Sie mehr Interesse haben, auch darüber zu erfahren, freue ich mich auch über jeden Nachricht gerne bei LinkedIn unter infoetdocsdigital.de.

00:09:01: Ja was würde ich jetzt heute gerne mal sagen?

00:09:05: Bleibt digital aber auch bleibe kritisch!

00:09:08: Und in diesem Sinne wünsche ich dir auch molt ob das.

00:09:11: alles Gute um bis zum nächsten Mal.

00:09:13: Pilikusse Alexander.