ChatGPT hat hohe Fehlerquote bei pädiatrischen Fällen
Quelle: Depositphotos

ChatGPT hat hohe Fehlerquote bei pädiatrischen Fällen

Anbieter führen gerne die Potenziale von KI im medizinischen Sektor ins Feld. Eine aktuelle Studie zeigt jedoch, dass ChatGPT bei der Diagnose von Fällen (aktuell noch) eine enorm hohe Fehlerquote aufweist.
4. Januar 2024

     

Bei 72 von 100 pädiatrischen Fällen stellte ChatGPT (auf Basis von GPT-4) eine Fehldiagnose, in weiteren elf Fällen waren die Schlussfolgerungen zu allgemein gehalten, um sie tatsächlich als korrekt zu bewerten: Das ergab eine Anfang Januar über das "JAMA Network" (via "Axios") veröffentlichte wissenschaftliche Studie. Demnach war der Chatbot beispielsweise nicht in der Lage, Zusammenhänge wie den zwischen Autismus und Vitaminmangel zu erkennen. Das unterstreiche, wie wichtig die klinische Erfahrung der Ärzte nach wie vor sei.

Ein Argument gegen das Potenzial von KI sind die Ergebnisse jedoch ebenfalls nicht. Denn laut den Autoren gehörten mehr als die Hälfte der Fehldiagnosen (56,7 %) zum gleichen Organsystem wie die richtige Diagnose. Das soll wiederum darauf hindeuten, dass die KI schlicht gezielter trainiert werden muss, um die Diagnosegenauigkeit zu verbessern. Eine der Schlussfolgerungen der Studie ist daher, dass Ärztinnen und Ärzte eine aktivere Rolle bei der Erstellung von Datensätzen für KI-Modelle übernehmen müssen, um diese gezielt auf medizinische Aufgaben vorzubereiten.


Unterstützung können die grossen Sprachmodelle beziehungsweise Chatbots laut den Autoren zudem bereits bei Verwaltungsaufgaben wie dem Schreiben von Forschungsartikeln und der Erstellung von Patientenanweisungen leisten. Gleichzeitig gilt es jedoch, zahlreiche ethische Fragestellungen zu klären, bevor die Technologie umfassend im medizinischen Sektor zum Einsatz kommen kann. (sta)


Weitere Artikel zum Thema

ChatGPT kommt ins Trötzlialter

11. Dezember 2023 - ChatGPT verweigert die Ausführung gestellter Aufgaben oder bricht die Zusammenfassung umfangreicher Daten ab. Was dahinter steckt, weiss OpenAI selbst nicht.

«Generative KI wird ganz viel verändern, auch das Verhalten der Menschen»

9. Dezember 2023 - Professor Mark Cieliebak forscht an der ZHAW zu Generativer KI. Im Interview erklärt er den Hype um ChatGPT, was GenAI im Unternehmensumfeld bereits leisten kann und warum er keine Sorge vor dem maschinellen Jobkonkurrenten und faulen Menschen hat.

Ein Jahr KI-Chatbots: Neues für Bing und Copilot

6. Dezember 2023 - ChatGPT ist ein Jahr alt, die Bing KI wird’s auch bald. Microsoft zeigt nun auf, welche Features bei Bing und Copilot in der Pipeline sind.


Artikel kommentieren
Kommentare werden vor der Freischaltung durch die Redaktion geprüft.

Anti-Spam-Frage: Wie hiess im Märchen die Schwester von Hänsel?
GOLD SPONSOREN
SPONSOREN & PARTNER