„Human in the Loop" ist der falsche Ansatz für Ärzte I 260

00:00:00: Manchmal müssen die Menschen zu ihrem Glück gezwungen werden.

00:00:02: Und zumindest für die Niedergelassenen gilt die Vorgabe, dass sie in fünf Jahren zweihundertfünfzig Weiterbildungs- oder Fortbildungspunkte sammeln müssen und wenn ich das wäre würde ich sagen mindestens hundert dieser Fortbildungspunkten für die nächsten zehn Jahre mit KI bezogener Weiterbildung zu tun haben um alle zu zwingen sich damit zu beschäftigen ob Sie wollen oder nicht weil anders kriegt man die Leute nicht dazu einfach nur hinten im Bus zu sitzen und mitzufahren.

00:00:36: Hallo und herzlich willkommen bei Docs Digital.

00:00:38: Mein Name ist Alexandra Wittmer und ich freue mich, dass ihr hier zuschaust oder zuhörst.

00:00:43: Heute habe ich einen Gast der mir bei LinkedIn aufgefallen ist durch einige Kommentare und ich freu mich das er heute da ist.

00:00:51: Geber Paul stelle dich einmal gerne selbst vor!

00:00:54: Wer bist du?

00:00:55: Und was machst Du?

00:00:56: Also... Mein Name ist Paul Schwanis von KAITS.

00:00:59: Ich bin aktuell in einem Rehafachzentrum in Niederbayern, Rehafachzentrum Bad Füßing in Niedermayern tätig als stellvertretender Chefarzt und leitende Oberarzt in der Orthopödie Und auch Heumatologie ist da mit Teil der Abteilung und ja ich bin da halt entsprechend in dieser Funktion tätig.

00:01:20: und nebenbei Seit einigen Jahren beschäftige ich mich zunehmend sehr intensiv.

00:01:28: Also, ich würde sagen seit zweiundzwanzig-dreinzwanzzig mit KI in der Medizin ist also noch keine wahnsinnig lange Geschichte aber das habe ich glaube ich mit investierter Zeit ganz gut aufgeholt und bringe dass dann auch schon länger jetzt regelmäßig in In der Klinik im Alltag Und auch in der Lehre wenn sich wann immer sich die Möglichkeit gibt unter

00:01:53: finde ich hochspannend.

00:01:56: Also was ich noch spannender finde, ist wie bist du eigentlich dazu gekommen damit anzufangen?

00:02:01: Weil die Ärztekammer hatte noch nichts gemacht und so viel geschrieben gab es vor ein paar Jahren auch noch nicht dazu.

00:02:09: Grundsätzlich ist es wie vermutlich bei den meisten eine gewisse technische Affinität, die schon ewig schon vom Medizinstudium begonnen hat damals Bei der Bundeswehr noch ein PC-Technikerkurs gemacht und damit ging es los, eigene Computer aufbauen aus ihren Einzelteilen usw.

00:02:25: Und dann habe ich irgendwann über Umwege mit dem Medizinstudium gestartet.

00:02:31: und im Medizinstudium habe ich relativ schnell gemerkt dass Lehre meins ist und ich das sehr wichtig und interessant finde, dass die Lehren großen Stellenwert hat.

00:02:39: da gings mir natürlich um mein eigenes Studium Fachschaftsrat gegangen und dann auch in den Fakultätsrat gewählt worden.

00:02:48: Und bin dann in internationale Organisationen gegangen, habe also in der Bundesvereinigung der medizinischen Studierenden Deutschlands den Vorsitz für die medizinische Ausbildung gehabt.

00:03:00: Darüber bin ich dann in die EMSA gekommen, also die European Medical Students Association, hab den eigenen Local Branch gegründet natürlich auch wieder mit Fokus auf die medizinische Ausbildung zusammen mit zwei Freundinnen aus dem Studium In der IFMSA über die BVMD unterwegs gewesen, also weltweite Medizinstudien in Vertretung und da auch wieder immer mit dem Fokus auf die medizinische Ausbildung.

00:03:22: Es war ja auch mein Auftrag in der nationalen Vertretungen Und immer wieder habe ich die Technologie einfließen lassen, hab in der Universität eine Webseite programmiert Mit allen relevanten Informationen, die es halt so gab.

00:03:36: Damals war das alles ziemlich stiefmütterlich.

00:03:38: Ich hab einen Horsthock studiert was sozusagen den Internet-Zugriff für aktuelle Informationen für unseren Studiengang angeht.

00:03:44: Und über das kam ganz gut an, da habe ich dann Vollisungsmaterialien auch Noten und so weiter zur Verfügung gestellt war heutzutage würde man sagen alles datenschutzrechtlich fragwürdig aber damals kein Problem und wurde eigentlich auch ganz gerne gesehen.

00:03:58: und dann hat sich das immer weiterentwickelt schon im zweiten Job, also ich hab in Hamburg angefangen.

00:04:05: Das war aber nichts und dann bin ich nach München gegangen und da in der Schöntlinik runtergekommen.

00:04:10: die Schöentlinik war sehr progressiv und hat schnell von der Patientenakte analog auf digital umgestellt und Da habe ich mich immer ganz gut aktiv eingebracht.

00:04:20: Dann habe ich gewechselt und bin in eine andere als ein Nachfacharzt dann In einer ambulanter Reha gegangen.

00:04:29: an der ambulanten Reha Einrichtung habe ich Der Einrichtungsleiter und ich relativ schnell festgestellt, dass ich ja eigentlich mehr machen könnte als nur Arzt sein.

00:04:37: Und dann bin ich zum.

00:04:39: Zum Administrator hauptamtlichen Administrator der Einrichtung geworden und habe das gesamte Computersystem.

00:04:45: Das waren so ungefähr dreißig PCs ersetzt und eingerichtet und eben nebenher halt ein bisschen Geld gespart weil es natürlich hier günstiger ist wenn's einer macht er schon da ist.

00:04:54: Ich würde

00:04:55: sagen haben sie nicht eher gesagt wie kann man eine ärztliche Ressource oder für verschwenden?

00:05:00: Ja, ich habe gelernt in der schönen Klinik wirklich guter Ausbildung sehr effizient zu arbeiten.

00:05:06: Weil hoher Arbeitsdruck und dann war der Arbeitsdrucksaufwand nicht mehr so hoch.

00:05:09: da hatte ich Zeit und habe mir gedacht, dass nutze ich die Zeit halt und mache ein bisschen mehr.

00:05:12: nebenbei mit einem Superchef muss man echt sagen, der das alles unterstützt hat mich hat machen lassen und es war super!

00:05:19: Und dann bin ich irgendwann über Corona-Wege letztendlich es war Corona mit beteiligt Da gelandet wo ich jetzt bin, wo ich dann auch sehr viel Freiheiten bekommen habe was ich aber auch von vornherein wichtig fand weil die noch quasi mit Schiefertafel und Meißel gearbeitet haben.

00:05:35: Und da hab' ich damit Unterstützung des jeweiligen Leitungen das ganze Haus voll analog auf voll digital umgestellt und natürlich mit dem Ziel als KI langsam aufkam das dafür zu optimieren dass der Einsatz von KI in der Klinik kein Problem mehr ist, weil gute Datenbanken.

00:05:54: gut das Input bedeutet gutes Output also zumindest für die sich auskennen.

00:05:59: Ja und so ging es immer weiter.

00:06:01: dann bin ich in die ganzen Gremien reingerutscht und halt eben auch mit jetzt aktuell in der Testgruppe für die KI-Nutzung, die gerade also die morgen offiziell endet heute ihre Abschlussbesprechungen hatte und da bei uns in der Klinik und da halt auch eine Plattform mit verschiedenen KI Modellen zur Verfügung gestellt hat, womit ich sehr viel machen konnte und mich schon darauf freue das dann den Kollegen beizubringen.

00:06:28: Und was ich jetzt noch vergessen habe... Ich bin nebenbei dann auch noch aus dieser Studiengeschichte raus in der Deutschen Gesellschaft für Autopädie- und Unfallchirurgie in der AG Leere gelandet seit dem Jahr zwei Tausendneuen und da geblieben also seit der dritten Sitzung dabei und jetzt dort Schriftführer und macht an da eben Rahmen von Fortbildungen.

00:06:45: letztes Jahr war unsere Lehrkonvention dann eben auch Fortbildungs für Lehrpersonal, also wer auch immer von den Universitäten kommt zu KI und Medizin letztes Jahr.

00:06:57: Und nächstes Jahr auch wieder im März findet das auch wieder statt.

00:07:00: da kommen dann die Lehrkoordinatoren und lassen sich zeigen was man so alles machen kann.

00:07:06: Die können natürlich auch schon viel aber da kann man das ein bisschen in die heiße Diskussion gehen.

00:07:11: Oh, ein Punkt!

00:07:12: Wow wow.

00:07:13: also ich finde da sieht man doch mal wieder sehr schön dass Auch wenn die Leidenschaft zur Medizin da ist und auch wir gerne Patienten versorgen, dass es auch viele Kolleginnen und Kollegen mit vielen anderen Kompetenzen gibt.

00:07:25: Und diese Schnittstellen... ...und da sein Wissen einzubringen und davorken zu bauen begeistert mich immer wieder.

00:07:34: Das macht natürlich nicht jeder und das kann auch nicht jeder machen aber der oder diejenige, die da Interesse daran hat, das zu nutzen und so das andere davon profitieren.

00:07:44: Und jetzt die Kolleginnen und Kollegen, letztendlich natürlich auch die ganze Klinik und die Patienten ist großartig.

00:07:50: Um mal da direkt reinzugehen wie lange habt ihr euer KI-Testprojekt, Pilotprojekt durchgeführt?

00:07:56: Und was sind so mal die drei wichtigsten Ergebnisse?

00:07:59: Also wir haben es jetzt vier Wochen durchgeführt.

00:08:02: Das war offiziell von vornherein auf vier Wochen ausgelegt und das wichtigste Ergebnis ist persönlicher Natur logischerweise, weil es ja noch keine offiziellen Ergebnisse gibt.

00:08:13: Ich natürlich große Hoffnung hege dass die so ausgehen wie ich mir das vorstelle.

00:08:16: aber die wichtigsten Ergebnisse sind, dass wenn man die Möglichkeit bekommt von der Schatten KI wegzugehen, die ganz offensichtlich überall im Alltag im Einsatz ist über die Smartphones der Kollegen egal in welchem Bereich dann und ganz offiziell damit arbeiten kann natürlich unter Berücksichtigung aller Datenschutzrichtlinien usw.. Kann man die Versorgung der Patienten sowas von massiv in der Qualität steigern?

00:08:41: Man kann die Dokumentation auf ein Level bringen, wo man mit natürlich durch Unterkontrolle des Arztes aber letzten Endes Formulierungen und Texte erreichen kann.

00:08:55: Sowohl für den Patienten verständlich sind, als auch für den weiterbehandelten Arzt.

00:08:59: Als auch im Nachgang für alle anderen die in der Klinik nochmal nachlesen oder vielleicht parallel in der Patientennakte in der Digitalen mitlesen weil man einfach wegkommt von kaumverständlichen Abkürzungen von Sätzen, die kein Mensch versteht.

00:09:15: Die Ärzte haben früher eine schreckliche Handschrift gehabt und kein Mensch hat irgendwas verstanden.

00:09:19: Und selbst wenn sie schön geschrieben haben waren die abkürzung so krass dass kaum einer nachvollziehen konnte was läuft Allein darüber steigt die Versorgung der Qualität, weil das ganze Team informiert ist und weiß was hat er eigentlich gemacht?

00:09:31: Was hat er gemeint?

00:09:33: wo geht's hin.

00:09:35: Man versteht halt die Einträge und muss da nicht mehr rumraten dass das steigert auch die Patientensicherheit natürlich ganz enorm und dass man dann noch selbstverständlich einsieht.

00:09:45: ja ich bin nicht allwissend auch wenn ich es gern wäre Ich kann mir auch nochmal eine Fachdiskussion mit der KI geben und gucken, ob es noch andere Differenzialdiagnosen gibt auf die ich vielleicht nicht gekommen bin.

00:09:57: Und das war lustigerweise in den vier Wochen so dass es ein paar Fälle gab, die nicht so ganz eindeutig waren wo das geholfen hat und dann noch aufgrund dieser Tatsache, dass das ein offizielles Testprojekt war was ja jetzt nicht in allen Kliniken unbedingt schon üblich ist konnte ich immer sagen mit der KI die ich zur Verfügung gestellt bekommen habe hab ich folgende Sachen diskutiert denen die Augen zu öffnen und zu sagen Leute Das hast

00:10:21: du dann in der Morgensbesprechung gesagt.

00:10:24: In der Mittagsbesprechungen?

00:10:25: Richtig, richtig cool!

00:10:27: Das finde ich richtig klasse weil momentan ist es ja so und ich weiß nicht ob du schon mal von gehört hast von diesem KI-Shaming und besonders unter Ärzten, ihr wisst nie immer alles und wir müssen das ja alles parat haben, dass vor Patienten zu sagen ist schon schwierig und vor Kollegen erst noch... durchaus auch, aber wenn du dann als Chef da bist und sagst hier ich habe diese Differenzialdiagnose.

00:10:53: Ich hab das noch mal diskutiert oder wir kamen nicht weiter?

00:10:55: Wir haben zum Beispiel schon, wo Patienten wie wir jahrelang behandeln und die nicht wissen was hat er eigentlich.

00:11:02: Da haben wir alles zusammen getan.

00:11:03: Wir sind letztendlich dazu gekommen dass wir wahrscheinlich eine Gentestung machen mussten.

00:11:06: Das war das Ergebnis nachdem wir dann alle, die haben alle zusammen mit der KI gesprochen.

00:11:12: Es war sehr witzig.

00:11:13: also wir haben sie sozusagen Mitarbeiter in unserem RCT mit integriert.

00:11:18: Ja, und das finde ich gut die reagieren da die jungen Kollegen drauf.

00:11:25: Denken Sie jetzt, der kann ja nix, ne?

00:11:27: Teilweise schwer zu lesen, das weiß ich nicht.

00:11:30: Ich würde hoffen dass sie mir das vielleicht irgendwie durchblicken lassen würden.

00:11:33: aber ich glaube nicht weil... zunehmend auch in der Vergangenheit immer wieder mal schon gesagt habt, das kann man ja mit KI besprechen.

00:11:41: Aber natürlich so richtig dass es sozusagen unsanktioniert möglich ist geht ja erst wenn's auch offiziell zumindest einer Person erlaubt ist und ich durfte ja offiziell das auch nur weil ich so ein... So einen online Kurs absolviert habe und dann natürlich aufgrund dieses einstündigen Online-Kurses der totale KI Profi bin, der jetzt genau weiß wie man der KI richtig verwendet.

00:12:01: Das ist noch ein anderes Thema wo es dann in Richtung Lehre geht.

00:12:03: also Ich habe es dann durchaus in der Mittagsbesprechung auch mal so gemacht, dass ich eine Frage die aufgekommen ist, die wir nicht sofort klären konnten.

00:12:10: Einfach direkt mit der KI besprochen hat und dann die Antwort einfach vorgelesen habe also sowohl live als auch sozusagen rückblickend als auch im Logbuch deiner entsprechenden Koordinatoreinträge.

00:12:20: Ich hoffe das die Kollegen trotzdem nicht das Gefühl haben, dass sie inkompetent bin aber es ja immer eine Frage wie.

00:12:26: Also das wäre vielleicht auch ein gutes Thema Richtung Richtung Lehre.

00:12:29: dann, wie benutze ich eine KI professionell und wissenschaftlich.

00:12:32: Ich werde immer groß angeguckt, ich benutze sehr gern den Begriff Wissenschaftliches Prompten.

00:12:37: Dann sagt immer jeder hey was ist denn Wissenschaftliches Prompton?

00:12:39: Das habe ich noch nie gehört.

00:12:40: man promptet halt ja dass sehe ich persönlich anders.

00:12:47: wissenschaftliche Art und Weise mit der Sprachmaschine sprechen kann.

00:12:51: Und dann natürlich auch das Output erheblich beeinflussen kann, dafür muss man aber natürlich wissen wie funktioniert das Ding eigentlich?

00:12:58: Was läuft da im Hintergrund?

00:13:00: Das ist das was dann oft nicht so ganz klar ist.

00:13:05: Kannst du dass man ein Beispiel deutlich machen?

00:13:08: Das glaube ich einfachste Beispiel ist wenn man sagt Okay, da ist jemand.

00:13:13: Der hat sein Handy dabei, der hat irgendein Problem mit dem Patienten, sagen wir mal, der hatte ein geschwollenes Bein und er weiß jetzt nicht so genau warum?

00:13:20: Dann nimmt er seinen Handy und also es ist jetzt ein fiktives Beispiel, na ich zitiere jetzt nicht einen Kollegen und sagt ja mein Patient ist hatten geschwollenes Bein.

00:13:29: was kann das sein?

00:13:30: okay das ist ein Prompt und dann wird die KI da irgendwie darauf antworten die Sprachmaschine mit ihrer Stochastik und Statistik weil man weiß dass das im Hintergrund passiert.

00:13:39: oder ich kann das wissenschaftlich aufbauen und kann sagen hey, Ich bin Arzt in einer Rehabilitationsklinik.

00:13:46: Das heißt, ich brauche keine Hinweise dass ich zum Arzt gehen soll Und ich habe einen Patienten mit folgenden Symptomen.

00:13:52: dann nenne ich ein paar mehr Symptome als nur das eine und sage dazu wie alt ist der Patient?

00:13:57: Was hat er vielleicht noch für Nebendiagnosen ohne Namen oder Geburtstag um da sonst irgendwas zu nennen und bespreche mit der KI, dass ich ein kritisches Feedback will und mögliche Differenzialdiagnosen.

00:14:08: Und dann warte ich die Antwort ab.

00:14:10: Normalerweise gehe ich noch ein bisschen mehr in die Tiefe und baue mir den Prompt halt auf.

00:14:14: Das hängt ein bissel auch von der Zeit ab, die man hat.

00:14:16: Also wenn ich eine Sprache eingeabe mache, dann mach' ich das so, dass sich alle Informationen, die ich zur Hand habe, halt mitgebe also Kontext für diejenigen, die sich mit Prompten so ein bisschen auskennen.

00:14:26: Dann gibt's, wenn ich es schriftlich mache ja noch die Möglichkeiten, die KI dazu zu bringen den Kontext zu verbessern durch Stepback-Prompting oder so und dann bin ja nicht das als wissenschaftliches Prompting weil ich halt einfach genau weiß.

00:14:40: Was ist meine Frage?

00:14:42: Was für ein Ziel habe ich mit dieser Frage, auf was für Datenbanken greift auch vielleicht die KI zu.

00:14:47: Wie wird die das interpretieren und welche statistischen Wahrscheinlichkeiten sind damit verbunden usw.

00:14:53: Ich hab schon eine Idee in welcher Richtung die Antwort geht aber der faktische Anteil ist dann der, der mir präsentiert wird und den kann ich dann nochmal überprüfen und damit weiterarbeiten Dann ist es aus meiner Sicht Gutes, wissenschaftliches Prompting oder eine wissenschaftliche Herangehensweise wie wir es ja früher ohne KI auch gemacht haben wenn wir online irgendwas gesucht.

00:15:14: Ja und vielen Dank für die Erklärung dieses Modells.

00:15:17: das was du als erstes angebracht hat dass hier mein Patient ein dickes Bein das ist ja eigentlich so wie man früher eine Frage in Google eingegeben hat.

00:15:26: Das ist einfach nur... das ist für mich keine vernünftige KI-Nutzung.

00:15:30: aber da sieht man schon die verschiedensten Ausbaustufen um Kompetenz die es gibt sehr, sehr viele verschiedene Prompting-Modelle wo es anfängt mit der Rolle und dem Kontext der genauen Erklärung der kritischen Rückfragen bis hin zu wie auf die Art und Weise man mit der KI spricht.

00:15:51: Und wie man auch die Ziele definiert und das beinhaltet finde ich.

00:15:54: Das ist ja wiederum die Kunst sich darüber klaren zu sein was eigentlich wirklich mein Ziel?

00:16:01: Will ich da jetzt einfach nur so schnell eine Antwort haben?

00:16:04: Warum ist das Bein dick?

00:16:06: oder aber will ich da ein bisschen tiefer gehen?

00:16:08: und ich finde, ich weiß nicht wie es dir geht.

00:16:12: Mich hat das dahin gelernt, gelehrt zunehmend mir vorab klarer zu machen in welchen Raum bin ich?

00:16:24: Um was geht's denn hier insgesamt?

00:16:25: Und was will ich eigentlich?

00:16:26: In welche Richtung geht das?

00:16:28: Also mir hilft es dabei, meine Handlungen viel expliziter und deutlicher zu machen.

00:16:36: Es kann ich viel besser mittlerweile als früher.

00:16:39: Ich finde letzten Endes ist das eine Frage der Kommunikationsfähigkeit.

00:16:44: Weil eigentlich kann man sich auch vorstellen ohne dass ich irgendeine Berufsgruppe sozusagen schlechter bewerten will aber man könnte sich auch vorstellen.

00:16:56: und gebe ihm so viel Informationen mit, dass er eingeordnet ist und weiß in welcher Richtung er jetzt die Bibliothek verwenden muss.

00:17:05: Das mache ich vielleicht sozusagen am Alltag weil ich denke das es ein guter kommunikativer Standard ist aber nicht die Regel und das gehört zu guter medizinischer interdisziplinärer oder auch intra-disziplinärer Kommunikation dazu.

00:17:19: Eigentlich muss man sagen, wenn jemand richtig gut prompten kann würde man sich wünschen dass er so wie er mit der Maschine spricht auch mit den anderen Menschen redet und dann kann man auch davon ausgehen.

00:17:29: Dass ich das direkt im Alltag auswirkt und die das intim einfach die Kommunikation viel besser wird.

00:17:36: Ja letztendlich checkt in der Führungs- und Delikationsqualität hinter die jene der es hat, der kann besser prompten, der es noch nicht hat kann weniger gut prompt.

00:17:47: Und aber auch das finde ich, wenn es hast du diese Erfahrung vielleicht mit den jungen Kollegen gemacht.

00:17:52: Ich weiß nicht wie weit ihr darüber gesprochen habt und dass auch geübt hat, wie man dieses wissenschaftliche Prompten auch verbessern kann.

00:18:03: Das kann man ja dann sehen indem man halt den einen Text eingibt und den anderen einfach sieht was für ein unterschiedlicher Output rauskommt.

00:18:09: Habt ihr das so gemacht?

00:18:11: Wie habt ihr das benutzt?

00:18:13: Also das ist etwas was sich jetzt... Noch nicht gemacht habe, weil ja dafür jeder offiziell in der kliniken eigenen account bräuchte.

00:18:21: Der jetzt im moment noch nicht freigeschalten ist aber es soll im september irgendwann eine entscheidung stattfinden.

00:18:26: ich hab das allerdings mit den studenten gemacht hat sich glaube ich noch nicht gesagt dass wir studentengruppe im hause haben und die haben natürlich ein laptop oder ein hedi dabei und können im rahmen des teachings natürlich auch die kaiv verwenden.

00:18:38: Und da habe ich einfach mal versucht halber einen Kurzvortrag, so ein Impuls-Vortrag zu fünfzehn Minuten zum zugutrücken wissenschaftlichen Promptin gehalten und dabei wahnsinnig große Unterschiede festgestellt im Wissen.

00:18:50: Und hab dann in dem Zusammenhang festgestellt dass es nicht so einfach ist, einfach zu sagen okay hier ich zeige euch wie man gut promptet denn gutes Promnten bedeutet auch das man eben so ein bisschen wenigstens weiß was passiert am Hintergrund eigentlich.

00:19:04: Man kann zwar eine Prompting Struktur abarbeiten, ich habe dann dazu einfach mal eine App programmiert.

00:19:09: Die hab' ich auch verlinkt in Verlinktes schon die alte Version und hab' einfach so ne Standalone HTML-Seite programmiert wo man von oben nach unten sozusagen ins Formular benutzt, wo halt gesagt was ist deine Rolle?

00:19:22: Was is der Content?

00:19:23: Was willst du für wissenschaftliche Promptigmodule?

00:19:25: Und die sind da schon hinterlegt.

00:19:27: und dann kann man sich einen Prompt bauen also ein interaktiver Promptbilder sozusagen.

00:19:32: das hilft.

00:19:33: aber Die Leute verstehen ohne Hintergrund wissen nicht, warum sie das überhaupt tun sollen und natürlich macht es dann Sinn.

00:19:40: Das habe ich in dem Kurs oder an der Präsentation gemacht als wir diese Lehrkonvention im Berlin hatten im letzten Jahr.

00:19:49: Da hab' ich gesagt jetzt promptet doch einfach mal mit.

00:19:51: damals war das noch die Sache mit den Erdbeeren also Strawberry wie viel er und so weiter der Klassiker Und das sind so kleine Sachen.

00:19:58: und dann ist aber so muss man ja auch erklären Warum kommen jetzt diese Unterschiede?

00:20:03: Dieser Teil kostet Zeit und kostet technische Tiefe.

00:20:08: Und sehr, sehr gute Aufarbeitung weil das Publikum im Allgemeinen sehr heterogen ist und man wirklich nicht davon ausgehen kann dass alle die gleiche Basis haben.

00:20:19: Das macht die Sache sehr spannend weil manchmal hat man einfach Leute die schon gut Bescheid wissen viel ausprobiert haben aber vielleicht gar nicht wissen warum sie so gute Ergebnisse kriegen.

00:20:29: Manchmal hat man Leute die sagen, ich habe mal so eine KI benutzt.

00:20:32: Aber das ist sehr schlechter als Google.

00:20:33: Das mache ich nicht mehr und dann fängt man da halt bei Null an.

00:20:36: Es gibt es auch beim Medizinstudenten.

00:20:38: Das hat mich übrigens auch sehr überrascht dass da waren Medizinstudenten vom dritten bis achten oder neunten Semester also Wildbund gemischt und Wahnsinn!

00:20:47: Einige hatten noch nie mit KI gearbeitet.

00:20:49: Das war jetzt im März.

00:20:50: Also Gibt's Ja, aber ich meine die Universitäten haben ja auch nicht durchgehend Kurse dazu und wenn dann überhaupt auch nur Wahlpflichtkurse.

00:21:01: Und ich weiß nicht inwiefern das jetzt aktuell in den Curricula ist im NKLM zum Beispiel.

00:21:06: es ist bisher nicht vorgesehen?

00:21:09: Ich habe mit den Zuständigen vom NK LM und der Abprobationsordnung vor kurzem sehr intensiv genau darüber diskutiert.

00:21:16: wie soll eigentlich und du bist da ja auch sehr tief drin und deswegen interessiert mich da deine Meinung Wie soll eigentlich denn das Studium jetzt überhaupt aussehen?

00:21:24: Was sagen dir denn deine Studenten, also weil auch die Lehrenden, was ist deine Meinung sollen die Lehren denn.

00:21:32: Wie sollen die Lehrenden den Schülern oder den Studenten das lernen wenn die Lehre dann es noch nicht mehr können?

00:21:37: Oder ist das so dass die Lehrender mit den studenten mitlernen?

00:21:41: Also ich habe das Gefühl dass die Realität oder das was wir tun könnten technologisch was alles wirklich ist und sowas von überholt mit unseren Kompetenzen, dass wir eigentlich die Bremsen sind.

00:21:55: Wichtig!

00:21:55: Wir sind die Breams'n ja und weil es auch einfach.

00:22:00: manchmal habe ich oft das Gefühl da gibt's immer dieses schöne Wort, dieses Brain-File, dass ich denke so oh Gott jetzt muss ich erstmal raus hier und dann muss ich erst mal ein bisschen grüne Blätter sehen damit es mir wieder gut geht, bis mein Gehirn durchgeputzelt ist.

00:22:14: also... Wie soll dieses Studium denn eigentlich aussehen?

00:22:19: Weil mir sagen auch Medizin Studenten, warum soll ich denn überhaupt jetzt noch was auswendig lernen.

00:22:23: Wenn ich sowieso alles andere besser geht?

00:22:26: und jetzt mal ganz ehrlich, ganz ganz ehrlich Was glaubst du im tiefsten Herzen, wie sich das entwickeln muss?

00:22:34: Wir müssen es immer optional.

00:22:35: Man muss nicht viel im Leben, Gott sei Dank!

00:22:38: Das ist eine sehr gute Frage.

00:22:40: Also dass wir das nicht mehr lernen müssen... Es gab ja diesen einen Minister, ich habe vergessen wie er hieß in Bayern der gesagt hat, sprachen und lernen ist ja Quatsch, jetzt können wir abschaffen.

00:22:48: die KI übersetzt sowieso in Zukunft alles.

00:22:50: Aber wie gesagt, ich hab vergessen wer es war, das war an der Presse.

00:22:55: Was gar nicht geht weil man das Output der KI validieren muss Und das kann man nur validieren, wenn man ein gewisses Basiswissen hat.

00:23:07: Da gibt es Studien dazu und größere Vereinigungen die sich damit befassen und da gibt's die sogenannte Gen AI Wall also Generative AI wall Wand.

00:23:15: und da gibts Studien die sagen Wenn ein Studierender oder ein Mensch der irgendwas irgendein Output validieren soll wenn der nicht eine gewisse Grundkenntnis hat über das, was er eigentlich mit der KI macht.

00:23:28: Dann ist er gar nicht in der Lage einzuschätzen, inwiefern das was die KI ausspuckt keine Halluzinationen ist.

00:23:35: Das heißt da muss eine strukturierte Grundkenntniss dasein.

00:23:39: und das was du jetzt gerade gesagt hast Spannendes Thema, weil es gibt natürlich Studenten die sind so voll dabei.

00:23:47: Die können so viel dass die jeden von uns abhängen.

00:23:51: ich habe mir einen eigenen KI Server gekauft und programmieren mit NHN und so weiter meine Eigenassistenten zu Hause damit ich irgendwie am Ball bleibe auch einfach was mir Spaß macht und weiß ein paar medizinische Projekte da sozusagen Abfrühstücke und da merke ich was das an Zeit kostet und was im tiefen Verständnis möglich ist wo ich noch lange nicht bin.

00:24:09: Und da gibt es Leute, die laufen quasi am Bildschirm vorbei und sagen hey was hast du denn da gemacht?

00:24:13: Ist ja Quatsch und so.

00:24:14: Da bin ich tief beeindruckt und find's toll aber das sind die allerwenigsten.

00:24:18: und dann gibt es Studenten, die sagen ach ist interessiert mich nicht brauche ich eh nicht.

00:24:23: Ich lerne halt aus den Büchern wie immer und bei denen ganz genauso ist es deswegen vielleicht super dass du das so fragst.

00:24:30: wir haben eine Ausbildung also Studierende Dann haben wir eine Weiterbildung Also Ärzte in Weiterbildung und dann haben wir nach der Weiterbildung uns nicht näher bezeichnet Fachärzte, die dann Fortbildungen machen genau.

00:24:41: Aber am Ende des Tages haben wir uns für lebenslanges Lernen in irgendeiner Form entschieden haben und natürlich müssen alle gleichzeitig mit der gleichen Motivationen warum überhaupt das Medizinstudium begonnen haben.

00:24:54: Das Ziel haben weiterhin zu lernen und dieses Lernen zum Wohle unserer Patienten einzusetzen.

00:25:01: Und jetzt muss man sich fragen wie haben wir früher Wissen gewonnen?

00:25:05: Wir haben früher Wissen gewonnen vor KI, ich sag mal vor zwanzig-zweiundzwanzig.

00:25:09: Indem wir Lehrbücher gelesen haben Fachpublikationen gelesen und praktisches Wissen Hand down von Professoren und Dozenten weitergegeben wurde.

00:25:17: das war super Das war einfach das war überschaubar.

00:25:21: Das war aber auch was wo man eine gewisse Medienkompetenz brauchte um wenn man jetzt mit Fachliteratur vor allem online digital Publikationen und so gearbeitet hat um rauszukriegen Was ist eigentlich Valide welches welches wissen kann ich eigentlich ernst nehmen und welches nicht.

00:25:36: Und das war im Studium eingebettet, dass heißt eigentlich ist es aus meiner Sicht gar nicht.

00:25:40: neue Medienkompetenz an sich hatten wir irgendwie schon immer drin auch wenn's nicht so richtig explizit verankert war wobei der medical professional nach den ken meets das schon ein bisschen mit abbilden aber naja und jetzt finde ich müssen wir nichts weiter machen als erstens k i shaming abschaffen.

00:25:57: Ich kann mich noch genauer erinnern, ich hatte im Studium am ersten Semester einen Palm-Pree.

00:26:02: Das war so ein Handheld.

00:26:04: da konnte ich die Psyrembil habe ich darauf installiert und dann waren wir auf Visite und dann hat er eine Frage gestellt und dann hab' ich die psyrembel aufgeklappt nachgehoben.

00:26:13: Dann wurde ich auf den Gang zusammengeschissen und angeschrien was mir einfällt mein Handy rauszuholen.

00:26:17: es war kein Handy Und was ich da eigentlich mache und mir einbilden.

00:26:20: und dann habe ich ihm das gezeigt und gesagt ja hier ist es die Pisyrembil.

00:26:22: Ich guck halt grad nach, sie haben uns eine Frage gestellt.

00:26:26: Oder war der völlig von den Socken?

00:26:27: und das ist mit der KI leider heute immer noch das gleiche, wenn jemand in der KI eine Frage stellt und versucht damit zu einem Ergebnis zu kommen.

00:26:34: Und dann vielleicht auch noch dabei rauslässt ich habe das mit KI gemacht, da ist die ganze Antwort nichts mehr wert weil er hat es ja mit KI gemacht.

00:26:40: Das kommt nicht von ihm, da steckt ja kein eigener Geist drin wird immer super gerne das Wort De-Skilling verwendet, was ich ganz fürchterlich finde.

00:26:48: Aber im Internet weitverbreitet dass alle sagen ja wer KI verwendet der verdummt.

00:26:53: und je mehr man KI verwendete desto weniger weiß man, desto wenig kann man sich merken.

00:26:57: aber als die Schrift erfunden wurde sind wir auch nicht alle verdumpt.

00:27:01: nur wenn uns diese Sachen nicht mehr alle merken mussten vor ein paar tausend Jahren sondern es wurde halt dann einfach aufgeschrieben und wir haben die Art und Weise wie wir gearbeitet haben verändert.

00:27:10: Das ist mit KI genau das gleiche.

00:27:12: Am Ende des Tages ändert sich die Arbeitsweise und wenn man da informiert mit umgeht, dann wird man mit dem Fachwissen was man immer noch braucht, die Ergebnisse der KI so zum Wohle der Patienten zum Zwecke der Medizin einsetzen dass man am Ende viel weiter kommt, als es jemals möglich gewesen wäre mit den alten Recherche-Methoden vor.

00:27:32: In dem ich vielleicht im Idealfall zum Thema Fünf Paper gelesen habe aber nicht fünf Tausend gleichzeitig so wie mir die KI vielleicht die Information geben kann wobei natürlich dann aufpassen muss was erzählt sie mehr?

00:27:46: ist das Valide?

00:27:47: Ist das ein direktes Retrieval?

00:27:49: oder ist das irgendwas was in den Trainingsdaten Schwammig drin war und vielleicht verzerrt ist durch viele Bias, die da möglich sind.

00:27:57: Die aber früher auch da waren nur halt auf anderer Ebene.

00:28:01: Ja also das mal vielen Dank für deine Perspektive und deinen doch sehr positiven Blick darauf!

00:28:10: Ich weiß nicht ob du das mitbekommst, ich hatte vor kurzem eine Bild gemalt.

00:28:13: in der Praxis-Monster hat ich eher eine Fugue gemalt hier eine Treppe hoch geht einer die eine Rolltreppe fährt und einer den Fahrstuhl nimmt.

00:28:23: Für mich war es ein richtiges Lernen, wie ich das früher erlebt habe.

00:28:31: Treppe gehen kann man sich ein bisschen einfacher machen indem man Google genutzt hat um mal die Rolltreppe zu nehmen und KI ist so ein bisschen Fahrstuhlfahren.

00:28:40: Es bringt einen schnell zum Ergebnis hin.

00:28:42: Es sei denn, man promptet wissenschaftlich.

00:28:45: Das heißt also immer in dieser Bildsprache zu bleiben dass uns die KI viel schneller zu einem Ergebnis lieften kann.

00:28:53: Also wenn wir in den Lippsteigen, ist es nach wie vor die Kunst nicht

00:28:57: nur noch

00:28:59: den Fahrstuhl zu nehmen sondern ganz bewusst mit Treppe abzuwechseln, jetzt mal um in deinem Bild zu bleiben.

00:29:10: Also du traust den Menschen und den zukünftigen Ärzten die Kompetenz zu wenn sie den Fahrstuhl nutzen und wann sie dann doch noch einmal die Treppe gehen.

00:29:18: weil ich habe immer tendenziell die Idee der Mensch ist faul er macht den geringsten Weg des Widerstandes.

00:29:26: und gerade wenn echt ich ein nach dem nächsten Patienten da kommt und ich sehe schon wieder auch mein Monitor da sitzen schon wieder fünf die warten dann weißt du die Antwort.

00:29:41: Deswegen klingt das immer so positiv und deswegen gibt es ja auch ein paar Studien, die hier empfehlen im Medizinstudium muss es eine KI-freie Zone geben bevor man KI nutzt.

00:29:53: Deswegen habe ich da so bisschen meine Zweifel ob das wirklich so funktioniert?

00:30:00: Ich empfinde es trotzdem noch als größeren Wandel des Arteslerns oder des Wahrnehmens als in der Vergangenheit.

00:30:10: Es wird massive Änderungen geben, du hast gerade eben was gepostet und ich habe es auch schon kommentiert wo es um die Brille das machte Brille im Einsatz an der Praxis ging und aus meiner persönlichen Sicht kann aber sein dass das morgen schon wieder nicht mehr aktuell ist.

00:30:23: aber aus meiner persönlichen Sicht ist es wird es so enden dass wir alle einen augmentierten ein augmentiertes Sichtfeld bekommen Und gar nicht unbedingt die Kamera hier über der Nase brauchen oder so, sondern halt irgendwo im Raum.

00:30:36: Aber das durchaus immer eine Maschine mithört und mit sieht und informiert und auf Basis dieser Informationen, die wir dann eben immer zur Verfügung haben wie schneller und präziser zu bestimmten Entscheidungen kommen natürlich aber trotzdem die Kompetenz brauchen auch komplett ohne das zurechtzukommen.

00:30:53: Das wird die Grätsche für jetztige Generationen total schwer ist denn aus meiner Sicht ist es so dass alle von, ich würde sagen, im Jahr zwanzig bis jetzt dann irgendwann fertig werden.

00:31:09: Die fallen in eine Lücke wo sie noch nach den alten Regeln im Studium studiert haben sozusagen noch die alte Art und Weise an Herangehensweise letzten Endes an den Patienten mitbringen.

00:31:21: aber die nächste Generation die direkt nachrückt also quasi werden ja irgendwann auch mal einen Anleiter, Praxisaner oder was auch immer und da werden eigene Studenten haben.

00:31:31: Und die studenten haben die schon lange überholt, was die Anwendung den Einsatz von KI im Alltag angeht weil sie halt einfach jetzt gerade in diese Phaserei gerutscht sind.

00:31:39: das heißt Diese verlorene Generation muss ganz aktiv zusehen dass ihr das irgendwie nachholen sonst kommen Sie nicht mehr hinterher und werden einfach abgehängt.

00:31:46: und es gibt total viele Ärzte die nicht daran glauben dass sie jemals durch KI ersetzt werden können.

00:31:50: ich denke es gibt jetzt schon mehr als genug Beweise dass das so sein wird.

00:31:55: Das nur noch davon abhängt, wie viel Handwerk du einsetzt im Alltag um dann möglichst vielleicht ein bisschen später abgehängt zu werden.

00:32:01: Aber das wird nicht mehr lange dauern dass voll technisierte Krankenhäuser wir schon in China im Einsatz auch irgendwann mal hierher kommen.

00:32:10: ich meine die Europäer mit den Regulierungen werden natürlich deutlich länger brauchen.

00:32:13: aber das ist nicht mehr aufhalt natürlich nicht mehr aufzuhalten.

00:32:17: Ich bin voll bei dir und ich danke dir, dass du mal so ehrlich offen mit Klartext sprichst.

00:32:22: Ich seh das ganz genau so.

00:32:23: Ich fahre in September nach China und guck mir das an!

00:32:25: Ich bin schon sehr gespannt was wieder erwarten wird falls ich da irgendwo reinkomme.

00:32:33: Aber ich denke der wird genug zu sehen sein.

00:32:37: ja und meine Idee ist vor ein paar Tagen so weit gegangen.

00:32:40: wahrscheinlich wird es auch Unterschiede geben in dieser Übergangs- und Transformation.

00:32:45: Zeit dass es natürlich dann die Ärzte gibt, die mit Audio-AI und Video kombiniert arbeiten.

00:32:51: Und dann die gibt's denen noch ohne Arbeiten und das wird auch Boxen geben, wo überhaupt kein Arzt mehr ist.

00:32:57: Wo ich alles aufgezeichnet würde, wo ich mich reinsetze.

00:33:01: Alles erfasst wird.

00:33:03: Es ist eine Frage der Zeit denke ich bis die erste AI ein Rezept unterschreibt und der Patient ist einfach nur genehmigt und sagt Ich nehme doch von der AI an ohne dass ein Arzt dabei ist.

00:33:17: Ja, aber wenn man das jetzt so hört und diejenigen, die uns hier zuschauen oder zuhören oder derjenige... Diejenige kriegt vielleicht Bauchschmerzen oder auch nicht?

00:33:25: Wie gehst du damit um?

00:33:26: Was ist so dein... Deine... Wie glückst du da drauf?

00:33:32: Ich blicke da ganz pragmatisch drauf.

00:33:34: Die Patienten werden mit den Füßen abstimmen in den USA, tun sie das jetzt schon?

00:33:38: Ärzte die ohne KI arbeiten sind halt nicht so gute Ärzten wie welche die mit KI arbeiten ist zumindest der Glaube ob dass dann am Ende auch so ist Das wird sich zeigen.

00:33:45: aber ich denke das wird sich so entwickeln wenn das dann irgendwann in entsprechenden strukturierten Bahnen läuft und es wird in Europa auch so sein.

00:33:52: das heißt wer sich nicht damit befasst und alt genug ist, geht vielleicht noch rechtzeitig in Rente.

00:33:57: Aber wenn ich alt genug bin wie ich, der sollte sich damit befassen ganz pragmatisch zu sehen dass er irgendwie versteht was es eigentlich ist und wie man's einsetzen kann weil ansonsten hat halt irgendwann keine Patienten mehr und wird einfach dadurch abgehängt das die anderen hat mit KI arbeiten und damit bessere Ergebnisse haben werden oder andere Ergebnisse.

00:34:15: Ja

00:34:16: ja bin voll bei dir.

00:34:18: Was würdest du denn jetzt den zuständigen Entscheiderinnen und Entscheiders des Medizinstudiums oder überhaupt auch der KVN, Ärztekammern und so weiter empfehlen und raten.

00:34:29: Was sollte sich da jetzt grundlegend ändern?

00:34:34: Ich finde ich glaube relativ präzise sagen nicht auf weitere Regulationen warten sondern einfach mal machen und umsetzen im Rahmen dessen was schon reguliert ist.

00:34:43: Der EU AI Act Artikel vier ist eindeutig genug.

00:34:47: Wer AI im Alltag einsetzt, sollte dazu geschult sein.

00:34:50: Das ist nicht festgelegt welche Form von Schulung da konkret stattzufinden hat.

00:34:54: aber ich denke die Universitäten sind gut genug das selber raus zu finden und ihre Studenten nicht nur abzuholen indem sie eine Wahlpflicht Veranstaltung anbieten sondern indem Sie das zum Pflichtelement in jedem einzelnen Fach machen und die Dozenten auch dazu verpflichtet werden.

00:35:10: Die haben ja mit weniger Legende eigentlich auch ne Lehrverpflichtung wo eigentlich auch eine Lehrtätigkeit sozusagen gelernt werden muss.

00:35:18: Und das würde ich persönlich, den Lehrkörper dazu verpflichten sich auf einen relativ hohes Kompetenzniveau zu bringen damit dass mithalten mit dem möglicherweise noch kompetenteren Studenten überhaupt noch möglich ist und man sich auf Augenhöhe unterhalten kann und nicht durch verbieten versucht wird irgendwas zu verhindern was man nicht verhindert kann.

00:35:38: Da fragt man sich warum er noch die Uni braucht.

00:35:42: Es gibt eine, ich weiß nicht ob du das wusstest es gibt eine komplett vollständig digitale KI Medizin Universität in

00:35:48: Kanada.

00:35:49: Nein das weiß ich

00:35:51: noch nicht.

00:35:51: wo ist die?

00:35:52: Da müsste ich jetzt kurz gucken wie die genau heißt.

00:35:53: aber es sind link kostenlos verfügbar.

00:35:55: da kann man vierhundertdreißig KI gestützte Kurse machen medizin studieren komplett KI hat ein Kanal ja gemacht im Alleingang quasi.

00:36:05: Ich hab mal reingeguckt, ist nicht schlecht.

00:36:07: Das ist noch nicht so...

00:36:09: Und wer musst du mit den Link geben und dem lege ich auch gerne in die Shownotz rein, dass wir da einfach mal reinschauen können?

00:36:15: Nein also die Frage ist was ist eigentlich Lehre?

00:36:17: und wir haben dann auch als sich da ein Laden war lange darüber diskutiert.

00:36:21: wie muss eigentlich gelehrt werden.

00:36:23: Was ist das, was die KI in Anfangstrichen nicht kann, was für eine Art von Kompetenzen rein fachlichen, wo sitzt jetzt Atom an welchem anderen Atom?

00:36:37: oder wie sieht die Traziblos aus?

00:36:41: Also wie kann ich Dinge herleiten und kluge Fragen stellen.

00:36:47: Wenn man das so sagen könnte sind es die neuen Kompetenzen, die jemand als Arzt da noch zusätzlich braucht oder mehr wichtiger werden als andere?

00:36:58: Ich glaube, das sind gar nicht neue Kompetenzen.

00:37:00: Sondern die haben einfach einen neuen Fokus.

00:37:02: Wir sind schon immer im Medizinstudium mit kritischem Denken dabei gewesen.

00:37:05: Das ist ein Standard und den haben wir in jeder Hinsicht, in jedem Patienten-Kontakt.

00:37:11: ob uns jetzt Unterlagen von extern vorgelegt werden, die als wahr bezeichnet werden wobei war ja immer eine Frage des Betrachters es.

00:37:20: Analyse-Fähigkeiten und kritisches Denkenfähigkeiten.

00:37:24: Und technischer Hintergrund, dass ich weiß wo kommt das her wie ist es entstanden?

00:37:27: Wie wurde das beeinflusst?

00:37:29: Das sind ganz essentielle Fähigkeiten.

00:37:32: als Beispiel kann ich sagen wenn ich hier auf meinem KI Server programmiere nie Informatik studiert.

00:37:37: Ich habe programmieren, ich hab toro Pascal in der Schule gelernt, lächerlich aber es reicht aus um den Quelltext grob zu überfliegen und zu sehen was da so ungefähr passiert?

00:37:47: Was für Funktionen aufgerufen werden und dann kritisch mit der KI wiederum an die Diskussion zu gehen?

00:37:52: Was ist das für eine Funktion?

00:37:53: Warum machst du das so und nicht so?

00:37:55: also Basics sozusagen?

00:37:57: Niemand soll programmieren lernen aber man sollte die Sprache des Computers es etwas besser verstehen lernen.

00:38:03: Es war heute in der Medizin bis heute immer selbstverständlich, dass wenn auch jetzt bei ich erlebe das ja auch eine Arbeit man stellt einen neuen Mitarbeiter ein und alles ist auf Computer ausgelegt.

00:38:14: Alles für die Hauswirtschaft, der Zugriff auf irgendwelche Bedienerleitungen von liegen oder so alles digital abgelegt.

00:38:20: Man erwartet von allen Menschen, dass sie den Computer bedienen können.

00:38:23: Das ist keine Selbstverständlichkeit.

00:38:25: Und genauso ist es keine Selbstverständlichkeit, dass jeder weiß wie jetzt eigentlich eine KI funktioniert und was das wichtige Grundwissen ist.

00:38:33: Wie man sozusagen damit umgeht?

00:38:36: Wenn das gegeben ist... Das sind eigentlich die gleichen Fähigkeiten wie immer nur umgebaut auf die aktuelle Situationen.

00:38:47: Ich würde jetzt hier zu weit finden aber ich habe mir heute die Mühe gemacht mal drüber nachzudenken.

00:38:54: weil du mir diese Frage stellst, auch zur Vorbereitung was mich interessiert und warum es mich eigentlich interessiert habe ich mich gefragt ja warum eigentlich.

00:39:00: Und am Ende bin ich beim hypocratischen Eid gelandet bei der Motivation also zweieinhalb tausend Jahre in der Vergangenheit und hab' mich dann vorgearbeitet wie habe ich eigentlich wissenschaftlich gearbeitet?

00:39:11: Wie übersetzt sich das Arbeiten mit zum Beispiel PubMed auf des arbeiten mit der KI.

00:39:15: wo sind die Unterschiede?

00:39:16: Wo sind die Gemeinsamkeiten?

00:39:18: Die Gemeinsamenkeiten sind deutlich größer als die Unterschieden.

00:39:23: Feinheiten im technischen Verständnis, um das richtig einzuordnen und eben kritisch zu hinterfragen nicht alles zu glauben.

00:39:30: Und im Zweifel halt in eine Diskussion zu gehen und sich Quellen zeigen zu lassen.

00:39:33: Das muss ich sagen ist glaube ich auch aus meiner Sicht der größte Entwicklungsschritt des letzten halben Jahres dass wenn man die KI nach einer Quelle fragt sie auch zuverlässig die richtige Quelle ausdenkt und er nicht ausdenken sondern ihm zeigt und sich keiner ausdenknt weil damit kann man dann schneller und bequemer validieren und die eigene Disziplin bleibt ein Stück weit erhalten, aber Disziplin ist die Grundlage von einem.

00:39:55: Welche Erfahrungen hast du wiederum auf der Seite der KI-Nutzung mit deinen Patientinnen und Patienten gemacht?

00:40:02: Also ich habe da ja regelmäßig interessante Begegnungen diesbezüglich.

00:40:08: Vielleicht kannst du ja mal erzählen wie du damit umgehst was für deine Erfahrung bist.

00:40:13: KI-Shaming ist in dem Zusammenhang noch viel größer als im Team.

00:40:18: Also es ist so, dass die Patienten nicht drüber reden, dass sie KI benutzen aber wenn man sich ein bisschen mit KI auskennt merkt man das dann, dass Sie KI benutzt haben.

00:40:25: unter anderem hatte ich... Ich frage

00:40:26: ja immer nach ganz direkt.

00:40:27: Ja, das mache ich unterdessen etwas mehr.

00:40:31: Aber es ist auch eine Frage der Zeit.

00:40:32: wie weit will ich gehen?

00:40:33: weil das natürlich das Gespräch da mal ein bisschen aussuchen

00:40:35: kann.

00:40:38: Du hast total recht!

00:40:39: Ich weiß, wenn ich diese Fragestelle Erweitert sich das Gespräch.

00:40:43: Es kostet mich mehr Zeit, mit über KI zu sprechen als wenn ich es nicht machen würde.

00:40:49: aber dann weiß ich ganz oft und dann sage ich immer okay Sie haben jetzt gemacht was ist Ihrer Wartungshaltung an mich?

00:40:56: Weil denn weiß ich wo steht der schon hat eigentlich schon eine Entscheidung getroffen mit der KI in Anführungsstriche weil er sich alle schon selbst zurechtgelegt hat und weiß, welche Bandage er will und wann er wieder zur Arbeit gehen möchte oder auch nicht.

00:41:16: Als ich früher immer gemacht habe, und das passt ganz gut zu dem wo wir uns eben unterhalten haben.

00:41:20: Ich hab früher die Patienten immer gefragt, haben sie es schon gegoogelt?

00:41:22: Und das ist eigentlich genau das gleiche nur dass es einen riesen Unterschied gibt weil bei Google ist es so, dass der Patient mit zufälligen mehr oder weniger zufelligen Klicks irgendwo landet und das kann die absolute Horrorgeschichte sein und die KI mit ihrer Stochastik und Tendenz zur Mitte sozusagen gemäßigte Übersicht ausgibt und dann ist es wesentlich einfacher, sich in diesem Bereich zu bewegen weil man weiß sie sind nicht im extremen sonst was Reddit Forum gelandet wo sie auf jeden Fall sterben müssen sondern die sind halt.

00:41:52: Sie sind halt in der statistischen Mitte einer KI angelangt ihren Zweifel auch noch drunterschreibt.

00:41:57: bitte suche ein Arzt auf und ob das dann halluciniert ist oder nicht muss man einen Zweifels diskutieren.

00:42:03: Da kommt wieder die Disziplin und die Wahrheit ins Spiel, was geschrieben steht.

00:42:07: Das ist wahr!

00:42:08: Und das isst für viele Menschen so insbesondere wenn jetzt nicht der höchste Bildungsgrad erreicht ist... ...was im Fernsehen gesagt wird dass es war, was im Radio gesagt wird, dass es wahr.

00:42:17: Was die KI schreibt, das ist wahr.

00:42:18: Und da muss man dann wieder durch diese Mauer durch uns sagen Naja, da gibt es schon noch ein paar andere Dinge die man vielleicht mitbeachten muss.

00:42:26: und wenn man dann die Fakten, die die KI auch schon erklärt hat.

00:42:29: Auch nochmal wenigstens in Kurzform erklärt kann man Vertrauen gewinnen?

00:42:32: Die Leute abholen und sagen hey okay dem kann ich auch vertrauen so wie meiner KI weil der weiß das meiste von dem was die KI wusste und er sagt vielleicht im Zweifel ah ok was dieKI da gesagt hat habe ich jetzt nicht darüber nachgedacht gucke ich mir auch selber mit meiner KI nochmal an oder so.

00:42:47: Aber das mache ich selten, weil es ja bei uns in der Klinik auch gerade eine Testphase ist und nicht gern gesehen noch nicht.

00:42:53: Ja, das ist ne Kulturfrage.

00:42:55: Absolut!

00:42:56: Das ist ne Kulturfrage.

00:42:57: Ich mach da schon, weil ich versuche das dritte Element oder teilweise auf das vierte, weil wir haben ja auch ne KI dabei mit einzubeziehen, weil's sowieso da isst und dann lieber das mit zu integrieren.

00:43:10: Und ich hab' das gefühlt dass viele dann echt deutlich entspannter sind Da darf ich das jetzt sagen, finde ich schon wieder ein Vertrauensbildendes Element.

00:43:23: Aber was bleibt denn dann für uns als Aufgabe?

00:43:26: Du sagst ja diese kritischen Denken Ja wir werden alle ausgestattet sein mit Brillen und Audios oder so weiter.

00:43:32: aber Was wird dann der Kern unserer Rolle noch sein?

00:43:38: Es gibt einen Begriff, den ich erst mochte und jetzt gelernt habe nicht mehr zu mögen.

00:43:42: Der ist ja die Meinungen ändern sich wenn man sich weiter sozusagen weiterentwickelt.

00:43:47: das kann sein dass es in drei Monaten nicht mehr so sehe.

00:43:50: aber es gibt diesen Begriff der auch vom von der Landesärztekammer und Bundesärztekammer gepflegt wurde nämlich Human In The Loop.

00:43:58: und Human In the Loop finde ich äußerst schwierig wenn man mal das Gesamtbild anguckt weil eigentlich sollte es sein KI-InTheLoop Das heißt, ich bin der Jumen.

00:44:08: Meine Gegenwart wird augmentiert durch die KI in den Loop, die mir sozusagen Informationsbröckchen zuwirft, die ich vielleicht noch brauchen kann.

00:44:16: aber Ich bin der Entscheidungsträger und es wird ja auch ist ja auch sozusagen rechtlich so festgehalten worden.

00:44:22: gerade erst im letzten Jahr am Mai auf der Bundesärztekammer haben sie gesagt Ja also Diagnostiktherapie Entscheidungen das ist menschliche Sache das macht nicht die KI darf Sie nicht soll sie nicht Genau.

00:44:34: Und deswegen ist es KI in der Loop und man nutzt die technischen Möglichkeiten, so wie man halt jetzt das Internet vorher mit einer Google-Anfrage benutzt hat, hat halt nur länger gedauert.

00:44:43: Ich bin voll bei hier!

00:44:45: Aber ich habe drin auch meine Zweifel, dass das so kommen wird wenn die Entscheidungshilfen da sind.

00:44:50: und ich hab ja schon verschiedene Transkriptionssysteme gesehen.

00:44:54: Die machen nicht nur Transkryptionen sondern sie machen schon Superplexity, um das weiterdenken dieses Weiterfragen usw.

00:45:02: Also sprich, du wirst schon in eine gewisse Richtung geleitet und wenn du die Möglichkeiten hast, wirst du auch das

00:45:08: nutzen.

00:45:09: Und die Frage ja wer sitzt letztendlich am Steuer ich oder die KI?

00:45:16: Es bleibt auf alle Fälle spannend.

00:45:17: aber ich kann deine Perspektive sehr gut verstehen und mir fällt jetzt auf ehrlicherweise wo du sagst nicht der Human-Insel, wo ich dachte stimmt er hat recht warum tun wir uns dann eigentlich schon in die Schleifer rein und nicht die KI?

00:45:32: Warum nehmen wir das eigentlich schon so hin?

00:45:34: Und ich habe immer wieder den Eindruck, dass gerade besonders die Ärztinnen und Ärzte jetzt tun nicht.

00:45:39: Aber viele andere sich irgendwie so mittreiben lassen, mit dem was da kommt.

00:45:44: Ich finde aus der Ärzteschaft, ich weiß nicht Widerstand oder Widerschrift würde ich es nicht nennen wollen aber der Wille des Mitgestaltens und auch das Begreifen wie schnell es geht ist mir noch.

00:46:00: Das höre ich, der Willi des Mitgestaltens war noch nie in der Breite vertreten.

00:46:05: Da geht es allein schon die normale, also die stinknormale Digitalisierung was sich da in der Klinik teilweise für Diskussionen führe.

00:46:12: gerade vor zwei Tagen habe ich von einer Kollegin schöne Grüße falls ihr das hört den Kommentar gehört warum müssen wir eigentlich an diesem Formular mitarbeiten?

00:46:19: Die IT soll uns gefälligsten perfektes Formular liefern und damit arbeiten wir dann durch Tansage.

00:46:24: Nein!

00:46:24: dass es ärztliche Aufgabe mitzugestalten und das so zu steuern, dass es so wird wie du.

00:46:29: Und wir brauchen es.

00:46:31: Das kann ihr tätig, woher solltet es denn können oder wissen was wir da brauchen?

00:46:34: So ein Quatsch!

00:46:36: Da muss ich aber sagen kommt die finde Jetzt vielleicht nicht in dem Zusammenhang, aber im KI-Zusammenhang auch die Berufsähre ins Spiel, die ich ganz gerne mal verwendet.

00:46:44: Die alle ... In allen Berufen, alle Menschen angeht.

00:46:47: Ich habe eine Berufsehre weil ich eine Berufsmotivation habe und diese Berufsmotion kommt ja irgendwo her.

00:46:52: Und wenn ich irgendwann nur noch mittreibe wie du sagst und das machen tatsächlich glaube ich viele, weil es einfach ist Die Hürde niedrig ist, weil die selbst Disziplin vielleicht irgendwann nicht mehr gegeben ist und der wirtschaftliche Druck wird gerne als Ausrede dann verwendet.

00:47:05: Ja wenn die KI was beschleunigt, kann ich ja mehr Patienten in der gleichen Zeit sehen oder habe angeblich mehr Zeit für Gespräche das auch zu diskutieren.

00:47:13: Ich würde es so machen aber würden alle so machen?

00:47:16: Das sind immer die Frage da spielt die Politik eine große Rolle.

00:47:18: Aber wenn ich grundlegende Berufsehre habe die mich dazu bringt dass Menschen nicht schaden möchte, sondern ihnen helfen möchte und weiter in Kontrolle bleibe.

00:47:29: Allein das bringt mich ja schon dazu dass es KI-In the Loop und nicht Human In The Loop ist.

00:47:34: Ja

00:47:35: wenn du jetzt die Entscheidungsfreiheit ist weiß ich nicht keine Ahnung mit dem Herr Zuckermannpräsidenten oder damit irgendjemand zu sprechen.

00:47:45: was ist so eins der nächsten oder kleinsten oder der Dinge die du jetzt am ehesten oder am schnellsten Aufgrund all dieser Erfahrungen, die du hast.

00:47:55: Die weitreichenden jetzt angehen würdest?

00:47:58: was wäre jetzt so ein erster Schritt?

00:48:01: Manchmal müssen die Menschen zu ihnen Glück gezwungen werden.

00:48:04: Und zumindest für die Niedergelassenen gilt die Vorgabe, dass sie in fünf Jahren zweieinhalbzig Weiterbildungs- oder Fortbildungspunkte sammeln müssen und wenn ich das wäre würde ich sagen mindestens hundert dieser Fortbildungspunkten für die nächsten zehn Jahre mit KI bezogener Weiterbildung zu tun haben um alle zu zwingen sich damit zu beschäftigen ob Sie wollen oder nicht weil anders kriegt man die Leute nicht dazu einfach nur hinten im Bus zu sitzen und mitzufahren.

00:48:32: Sehr gut.

00:48:32: Und für die Klinikärzer?

00:48:34: Für die gilt der letzten Endes das Gleiche, für die meisten Kliniken, die jetzt nicht gerade der deutschen Rentenversicherung gehören, gilt ja auch die Weiterbildungs- oder Fortbildungspflicht und da ist aber immer... es gilt immer das gleiche, der Chef einer Abteilung oder die Leitung einer Klinique, je nachdem wo man diese Verantwortung hinsetzen möchte vielleicht auch des ganzen Klinikkonzerns ist verantwortlich.

00:48:57: Weiterbildung läuft und da würde ich ganz einfach sagen in dieser Zeit jetzt für die nächsten mindestens mal fünf Jahre, aber ich denke eher zehn sollte man den Leuten eine gewisse Anzahl an Pflichtvollbildungen zu diesem Thema überhelfen weil es ja am Ende des Tages auch ne riesengroße wirtschaftliche und Qualitätsbedeutung hat.

00:49:16: Patienten-Sicherheit ist und zwar in beiden Richtungen.

00:49:19: Entweder Patientensicherheit, weil die Ergebnisse besser werden oder Patientensicherung, weil nicht sinnlos irgendwas mit KI gemacht wird was am Ende der Ergebnisse massiv verschlechtert und dann Patientenleben gefährdet.

00:49:28: Das kann voll ja in beide Richtungen ausschlagen.

00:49:31: Es hängt immer auch so ein bisschen vom kritischen Denken unter eigenen Berufsehre ab.

00:49:34: Gibt es noch irgendetwas einen Punkt den wir hier noch nicht angesprochen haben?

00:49:38: Oder die nur sagst du würdest jetzt doch noch gerne loswerden?

00:49:42: Alle, die das hören sind wahrscheinlich eh schon auf einem Level.

00:49:45: Dass sie es eigentlich gar nicht mehr hören brauchen.

00:49:47: aber Sie sind in der Position sehr wahrscheinlich wo sie anderen Menschen etwas beibringen können sei es anderen Ärzten medizinisch vorangestellten wie immer auch immer Und sie sollten sich in der Verpflichtung fühlen, andere Menschen abzuholen und in die Geheimnisse der KI einzuführen.

00:50:05: Und vielleicht ein bisschen Struktur da reinzubringen.

00:50:07: vor allem wer viel ausprobiert weiß ja alleine aufgrund dieser Erfahrung ganz viele Fallstrecke die sich da irgendwo verbergen können und jeder von uns ist aus meiner Sicht in irgendeiner Form leer verpflichtet eine mehr oder andere weniger.

00:50:20: Aber um gemeinsam das gleiche Kompetenzgrund Basic Level zu erreichen, kommen wir nicht drum herum.

00:50:26: Das durch gegenseitiges Teaching zu machen und da auch nicht ungeduldig zu sein und die Leute auch aktiv abzuholen und nicht darauf zu warten dass irgendjemand sagt hey du machst sehr was mit KI jetzt kannst du mir mal etwas zeigen?

00:50:37: sondern vielleicht einfach zu sagen das was du da gerade gemacht hast war super.

00:50:41: hättest du jetzt die KI eingesetzt?

00:50:42: Hättest Du vielleicht noch folgende Aspekte betrachten können und das in der gleichen Zeit geschafft oder so

00:50:47: Super Ein tolles Schlosswort, dem kann ich gar nichts mehr hinzufügen.

00:50:54: Also liebe Zuhörerinnen, Geberzuhörern, liebe Zuschauerinnen und Zuschauer es gibt viel zu tun, einmal hochkrempeln und gucken wo die nächste Möglichkeit ist sich diesbezüglich vorzubilden.

00:51:06: Es wird hier noch weiterhin viele Podcasts und Videokast auch in nächster Zeit geben wo ich ihr Fortbildungsplattform auch mitvorstelle Und auch viele Kolleginnen und Kollegen einladen, die sich genau mit diesem Thema beschäftigen.

00:51:19: Das ist wichtiger denn je.

00:51:21: und paul zu dir erstmal toll toll was du.

00:51:26: Alles machst, wie du es vorantreibst.

00:51:28: Ich wünsche dir für deine Klinik und dass ihr die Dinge dort jetzt umsetzt und KI flächendeckend einsetzt.

00:51:35: Alles Gute!

00:51:35: Ich hoffe wir sprechen uns dann spätestens in einem Jahr noch mal wieder.

00:51:39: Würde dann von den ersten Erfahrungen und besonders auch in der Interaktion mit den Kolleginnen und Kollegen berichtest, wie sich das wirklich integriert?

00:51:49: Und wie sich so das ärztliche Selbstverständnis verändert aber auch das ärzliche Handeln darunter, wie wir uns weiterentwickeln.

00:51:58: Wie sich unser Beruf weiterentwicklt.

00:51:59: Das finde ich auch extrem spannend und vielleicht sehen wir uns ja auch mal auf irgendeinem Pell oder auf einen Vortrag in der Keynote würde mich sehr freuen.

00:52:08: Ja, mich auch.

00:52:09: vielen Dank!

00:52:09: In diesem

00:52:10: Sender.

00:52:10: alles Gute!

00:52:12: Danke gleichfalls.