Der Moment, in dem die KI mich ins Zweifeln brachte I 255

00:00:02: Hallo und herzlich willkommen meinen Docs Digital.

00:00:05: Mein Name ist Alexandra Wittmer und ich freue mich, dass du heute mal wieder in eine Solo-Folge hinein hörst.

00:00:10: Ich möchte dir von einem Fall erzählen der mir selbst passiert ist und wie nicht auch jetzt schon in bereits zwei Workshops mit anderen Kolleginnen und Kollegen in Kliniken und Praxen diskutiert habe weil ich hab festgestellt das geht nicht nur mehr so sondern vielen anderen.

00:00:25: und so ein richtig gute Antwort gibt es darauf noch nicht!

00:00:28: Weil so richtig viel darüber gesprochen wird auch noch nicht transparent zumindest sondern jeder macht es irgendwie für sich alleine.

00:00:35: Und zwar, was habe ich getan?

00:00:37: Ich habe mit einem Patienten gemeinsam eine Entscheidung getroffen also ich hab eine ärztliche Entscheidung getrofft und nachdem der Patient weg war, habe ich diese Entscheidung mit einer KI reflektiert und dann habe ich sie geändert.

00:00:58: Und seitdem frage ich mich, was passiert da eigentlich?

00:01:01: oder was ist da eigentlich passiert?

00:01:03: aber ganz von vorne Ein Patient von mir hatte noch eine sehr langen Zeit, selbstständig ohne meine Rücksprache entschieden seine Medikamente abzusetzen.

00:01:16: Und mir ist klar, mir zumindest ihm eher weniger dass das mittelfristig zu einer deutlichen Verschlechterung der Symptomatik führen kann und das habe ich ihm auch erklärt.

00:01:26: wir haben darüber gesprochen warum ich das sinnvoll finde diese Medikation weiterzunehmen und was passieren kann auch wenn er sie absetzt.

00:01:35: Er hat sich trotzdem dafür entschieden.

00:01:37: Das ist ein gutes Recht, die Patienten dürfen eigene Entscheidungen treffen.

00:01:40: Sollen sie sogar auch?

00:01:42: Auch wenn ich sie medizinisch nicht für diese beste Entscheidung halte.

00:01:47: Ich habe das natürlich dann dementsprechend dokumentiert, dass er die Medikamente abgesetzt hat, wie es dazu gekommen ist und dass wir darüber gesprochen haben und dass ich ihn über die möglichen Folgen informiert habe.

00:02:00: Dann kam eine ganz praktische Frage – wann sehe?

00:02:06: Und mein erster Gedanke und meinen Bauchgefühl war klar, ich muss schon sagen auch so ein bisschen konsterniert darüber dass er das einfach so getan hatte.

00:02:16: War dann mein Gedanken auch neuer?

00:02:18: unsere Termine haben sich in der Vergangenheit immer um die Medikation gedreht.

00:02:22: Das war unser Hauptfokus.

00:02:24: Dass jetzt hat er sich entschieden nicht mehr zu kommen.

00:02:27: oder braucht man die Handlung auch nicht weiter führen?

00:02:29: Es gab ja zu diesem Zeitpunkt keine akute Situationen, die eine kurzfristige Vorstellung wieder notwendig gemacht hat.

00:02:38: Also habe ich ihm gesagt, was ist auf?

00:02:40: Wir sehen uns in drei Monaten wieder also so ein Termin Mitte Ende November.

00:02:47: Damit war für mich die Sache erstmal erledigt und ich hab ihn auch nach Hause geschickt.

00:02:50: Dann waren wir durch und dann habe ich später nochmal diesen ganzen Fall reflektiert.

00:03:01: Das mache ich durchaus in Situationen, wo ich Zweifel habe oder ich so ein Bauchgefühl hab.

00:03:07: Wo ich denke muss ich nochmal mir Gedanken machen weil man mache das insbesondere immer dann wenn ich emotional sehr aktiviert bin.

00:03:18: also Ich merkte ja dass mich die situation ärgert und diese Ärger der darf Ja auch sein.

00:03:26: wir sind ja menschen und auch Ärzte sind Menschen und wir dürfen uns auch ärgern.

00:03:31: Aber ich weiß natürlich, wenn ich mich ärger ist das auch nicht ein wissentlicher Anteil von mir der dann wirklich viel über mich sagt und habe dann die Situation der KI beschrieben um mich darauf reagiert habe.

00:03:44: Und gesagt was ist denn jetzt eigentlich hier mein blinder Fleck?

00:03:47: Was übersehe ich?

00:03:48: Und habe dann meine Entscheidung in den drei Monaten zu sehen hinterfragt.

00:03:55: Die KI sagte mir dann einfach gesagt dass ich ziemlich streng gewesen bin.

00:04:04: Die Argumentation war ungefähr folgende, also wenn ich weiß das das Absetzen der Medikamente bei den Patienten zu einer deutlichen Verschlechterung führen kann dann wäre es doch gerade sinnvoll diesen dann auch früher zu sehen einfach mal umzuschauen wie er sich entwickelt.

00:04:21: ja und dann saß ich dann da Ich fand das Argument plausible und ich hatte mich dann auch wieder so ein bisschen gesammelt Und ich dachte, ja stimmt eigentlich.

00:04:33: Was ist denn wenn er sich die nächsten Wochen deutlich verschlechtert und vielleicht sollte es doch nochmal sinnvoll sein ihn zwischendrin zu sehen?

00:04:43: Ist das dann wirklich sinnvoll Ihnen noch mal drei Monate zu warten?

00:04:47: Je länger ich darüber nachdachte desto unsicherer wurde ich mit meiner ursprünglichen Entscheidung und am Ende habe ich ihn tatsächlich nach unseren Termin angerufen und ihm noch einmal einen früheren Termin angeboten.

00:05:04: Und erst dann kam für mich die viel interessantere Frage.

00:05:09: Was war eigentlich geradehin mit mir passiert?

00:05:13: Hat sie die KI nicht auf etwas Wichtiges hingewiesen, was ich selbst übersehen hatte oder war jetzt eigentlich mein Bauchgefühl viel wichtiger und habe ich jetzt den Patienten nicht dadurch signalisiert?

00:05:25: naja mit ihr kann man es ja machen.

00:05:27: Sie bietet mir trotzdem einen früheren Termin an obwohl ich die Medikation jetzt abgesetzt habe.

00:05:33: Ja Und so ganz sicher war ich mir bis heute nicht und wir haben auch in den Workshop mit den Kollegen, wo wir über KI- und Arztpatientenbeziehung gesprochen haben lange darüber diskutiert.

00:05:47: Argumente dafür, Argumnte dagegen.

00:05:50: aber genau deswegen finde ich diesen Fall so interessant.

00:05:57: natürlich kann man für meine erste Entscheidung argumentieren.

00:06:00: Der Patient ist aufgeklärt, er hat eine eigenständige Entscheidung getroffen.

00:06:03: Es gab keine akute Gefährdung und er wusste dass ich das kritisch gehe mit den Absätzen.

00:06:08: Patientenautonomie heißt natürlich eben auch, dass man eine Entscheidung treffen darf als Patient die ich nicht für optimal halte.

00:06:15: Außerdem kann ich nicht jeden Patienten engmaschig wieder einbestellen nur weil er nicht meine Empfehlung folgt.

00:06:22: Und auf der anderen Seite kann man natürlich auch viele Argumente für eine frühere Kontrolle finden, weil ich weiß, dass gerade das Absetzen dieses Medikamentes zu einer Verschlechterung wird.

00:06:33: Kann des Medizins durchaus sinnvoll sein in dieser Phase nochmal genau hinzuschauen?

00:06:40: Nicht weil ich ihn dann kontrollieren will oder ihm dazu bringen will die Medikamente doch wiederzunehmen aber einfach um zu gucken wo es hingeht.

00:06:48: Ich kann beides nachvollziehen.

00:06:53: Und trotzdem gibt es einen Punkt an der Geschichte, der mich beschäftigt.

00:06:55: Weil ich ja bevor ich die KI gefragt hatte eine Entscheidung bereits getroffen hatte aus mir heraus und danach war ich mir nicht mehr sicher.

00:07:08: und damit sind wir bei einer Wirkung von KI über die wir meiner Meinung noch immer noch viel zu wenig sprechen.

00:07:15: KI kann nicht nur unsere Entscheidungen beeinflussen sie können auch beeinflussend wie sicher Wir uns mit unserer eigenen Entscheidung fühlen danach.

00:07:27: Ja, wir diskutieren viel in der Medizin darüber, ob Kai eine richtige Antwort gibt.

00:07:32: Halluziniert sie und sind die Informationen geregt.

00:07:36: Man kennt sie die Krankheiten?

00:07:38: Und wie gut ist sie im Vergleich zu uns Ärztinnen und Ärzten?

00:07:41: Ja ja alles wichtige Fragen!

00:07:43: Aber in meinem Fall musste die KI aber gar keine Diagnose stellen.

00:07:49: Sie musste auch keine Informations finden, die ich nicht kannte.

00:07:53: Sie musste nur ein gutes Gegenargument formulieren.

00:07:59: Und genau darin sind diese Systeme wirklich ziemlich gut.

00:08:04: Ich kann an der KI sagen, sie sollen mir fünf Gründe nennen und warum meine Entscheidung falsch sein könnte.

00:08:09: dann bekomme ich fünf Grunde ja?

00:08:12: Ich kann sie anschließend bitten mir fünf gründe zu nennen, warum die Entscheidung Richtung war und sehr wahrscheinlich bekomme auch hierfür fünf ziemlich überzeugende Gründe.

00:08:21: das heißt natürlich plötzlich hängt es alles sehr davon ab wie ich die Frage gestellt habe Und noch mehr davon, was ich dann mit der anschließenden Antwort mache.

00:08:32: Ich habe mich nach diesem Fall noch etwas anderes gefragt und das war für mich fast noch unangenehmer.

00:08:39: Ich hab schon angedeutet, ja?

00:08:40: War meine Entscheidung wirklich rein medizinisch oder war ich auch vielleicht ein bisschen genervt?

00:08:46: Nein, ich war nicht ein bisschen genärft... ...ich war genervt!

00:08:49: Ja?!

00:08:50: Und da sitzt ein Patient vor mir und ich gebe mir seit langer Zeit sehr viel Mühe die Notwendigkeit zu erklären Und naja, und jetzt setzt sie trotzdem ab.

00:09:01: Kommt bei jedem vor!

00:09:03: Weiß ich, trotzdem war ich genervt... ...und enttäuscht und alles.

00:09:08: Aber vielleicht war da mir auch ein kleiner Gedanke so was wie okay dann brauchen wir uns ja erst mal nicht wiederzusehen?

00:09:19: Das ist nicht besonders schön könnte man jetzt sagen aber ich finde es auch wiederum sehr menschlich Ja?

00:09:26: Aber ich glaube wenn wir ehrlich über ärztliche Entscheidungen sprechen In Zukunft müssen wir auch über dieses Thema sprechen.

00:09:35: Wir sind halt keine neutralen Maschinen, Patienten lösen etwas in uns aus.

00:09:41: Manche machen uns Sorgen, manche strengten uns an.

00:09:43: Bei manchen sind wir viel zu vorsichtig.

00:09:46: bei manchem gehe ich nach Hause und kann sehr gut abschalten aber dann denke ich trotzdem noch über die Nach- und telefoniere hinter denen her weil ich kein gutes Bauchgefühl habe Ein paar anderen, da gebe ich mehr Verantwortung.

00:10:03: Und dann sind wir auch manchmal einfach genervt oder enttäuscht und freuen uns – das könnt ihr ja auch.

00:10:13: Ja vielleicht hat die KI bei mir genau das sichtbar gemacht und ich fand so oder sowas ein guter Sparringspartner an dieser Stelle.

00:10:26: aber vielleicht war es auch ganz anders meine ursprüngliche Entscheidung völlig vertretbar gehalten und die Karri hat einfach so ein gutes Gegenargument formuliert, dass ich meiner eigenen klinischen Einschätzung weniger vertraut habe.

00:10:45: Und das hab' ich ja nun auch im Workshop gesehen.

00:10:47: da bin ich nicht mit alleine und es wird die Kunst sein, das auszutarieren und ich finde auch es wird der Kunst sein das zu dokumentieren.

00:10:57: wo kommt es vor mir?

00:10:59: Wo kommt es von der KI?

00:11:00: Wo ist es eine Mischform?

00:11:04: Und wir alle nutzen diese KIs, ob jetzt offiziell inoffiziell alle danach fragen nach Medikamenten, Differenzialdiagnosen.

00:11:13: Nutzen ist für die Arztbriefschreibung.

00:11:15: Bereiten Gespräche vor und wir schauen noch Studien und wir reflektieren Fälle.

00:11:20: Das passiert alles längst.

00:11:21: ja, ob nun offiziel oder unofficiel und so richtig ... sauber transparent aufgearbeitet finde ich das Thema noch nicht und deswegen mache ich jetzt hier Transparenz und zeige auch, dass ich da viele Fragezeichen auf der Stirn habe.

00:11:39: Und ich mir wünsche, dass wir noch mehr Raum- und Orte in Vorträgen, in Fortbildung dafür schaffen genau diesen inneren Konflikt deutlich zu machen was wenn die KI zur anderen Entscheidung kommt?

00:11:57: Wann Endeichs und wann Endeiches?

00:11:59: auch nicht viele spannende Fragen mit vielen spannenden Antworten oder Antworten, die wir eigentlich noch miteinander finden müssen sollten.

00:12:13: Und wenn du, wenn ihr euch auch mit diesem Thema beschäftigt oder ihr Fragen habt oder ein Ort sucht wo wir genau darüber diskutieren dann freue ich mich, wenn du dich oder ihr euch bei mir meldet gerne per Mail, gerne per LinkedIn.

00:12:33: Wir wollen Austauschen diskutieren genau über diese Themen.

00:12:38: alle Ärztinnen und Ärzte beschäftigt mehr denn je und ja es wird einfach nicht mal weggehen.

00:12:48: um darum freue ich mich auch wenn ich dir jetzt hier keine endgültige Antwort mitgeben kann in dieser Folge die ich jetzt einfach damals runtergesprochen habe ganz ohne KI einen neuen Gedanken mitgegeben zu haben oder vielleicht auch neue Fragen.

00:13:07: Man muss ja nicht immer Antworten finden, aber eine neue Frage die dich auch weiter trägt oder du mal darauf achtest wie geht es dir denn eigentlich damit und wie gehst du da mit?

00:13:16: Und lässt du dir von einer KI schon deine blinden Freiläcken zeigen?

00:13:23: Eines meiner Lieblingsfragen, die ich nutze im privaten Aber auch im klinischen Kontext.

00:13:28: Was habe ich hier jetzt gerade übersehen, was ist hier grad mein blinder Fleck und es ist immer wieder spannend bei herauskommt.

00:13:38: In diesem Sinne wünsche ich dir, wo auch immer du bist alles Gute!

00:13:42: Und bis bald ganze Grüße Alexandra.