Sollten Sie Gesundheitsratschlägen von Chatbots vertrauen?

Immer mehr Menschen nutzen künstliche Intelligenz (KI), um sich im Alltag und im Beruf zu unterstützen. ChatGPT ist eines der beliebtesten und bekanntesten KI-Tools. Es liefert kostenlos sinnvolle und relevante Antworten auf jede Frage.

Generative KI-Tools bieten großes Potenzial, Menschen dabei zu helfen, mehr über ihre Gesundheit zu erfahren. Doch die Antwort ist nicht immer richtig. Sich bei Gesundheitsratschlägen ausschließlich auf ChatGPT zu verlassen, kann riskant sein und unnötige Ängste auslösen.

Generative KI ist eine noch relativ neue und sich ständig weiterentwickelnde Technologie. Die neueste Studie liefert die ersten australischen Daten darüber, wer ChatGPT zur Beantwortung von Gesundheitsfragen nutzt und zu welchen Zwecken.

Die Ergebnisse könnten den Menschen dabei helfen, den Einsatz dieser neuen Technologie für die Gesundheit zu erlernen und die neuen Fähigkeiten zu erwerben, die für ihre sichere Nutzung erforderlich sind – mit anderen Worten, „ KI-Gesundheitskompetenz “ aufzubauen .

Wer nutzt ChatGPT, um Fragen zur Gesundheit zu stellen? Welche Fragen werden gestellt?

Im Juni 2024 wurden im Rahmen der Studie mehr als 2.000 Australier gefragt, ob sie ChatGPT zur Beantwortung von Gesundheitsfragen nutzen würden. Jeder Zehnte (9,9 %) stellte ChatGPT im ersten Halbjahr 2024 eine Gesundheitsfrage. Im Durchschnitt gaben sie an, ChatGPT „ziemlich“ zu vertrauen (3,1 von 5).

Die Studie ergab außerdem, dass der Anteil der Personen, die ChatGPT für Gesundheitsfragen nutzten, bei denjenigen höher war, die über eine geringe Gesundheitskompetenz verfügten, in einem nicht englischsprachigen Land geboren waren oder zu Hause eine andere Sprache sprachen.

Dies zeigt, dass ChatGPT Menschen in Australien unterstützen kann, die Schwierigkeiten haben, auf traditionelle Formen von Gesundheitsinformationen zuzugreifen.

Die am häufigsten gestellten Fragen an ChatGPT beziehen sich auf:

• Informieren Sie sich über Ihren Gesundheitszustand (48 %)
• Die Bedeutung der Symptome verstehen (37 %)
• Fragen Sie nach Maßnahmen (36 %) oder verstehen Sie medizinische Fachbegriffe (35 %).

Mehr als die Hälfte (61 %) stellte mindestens eine Frage, die klinischen Rat erforderte. Diese Fragen fielen in die Kategorie „riskanter“. Wenn Sie ChatGPT fragen, was Ihre Symptome bedeuten, können Sie sich einen ungefähren Überblick verschaffen, aber dies ist kein Ersatz für klinischen Rat.

Menschen, die in einem nicht englischsprachigen Land geboren sind oder zu Hause eine andere Sprache sprechen, stellen diese Art von Fragen häufiger.

Warum ist das wichtig?

Die Zahl der Menschen, die generative KI für Gesundheitsinformationen nutzen, wird voraussichtlich zunehmen. Laut der Studie würden 39 % der Personen, die ChatGPT bisher nicht für Gesundheitsinformationen verwendet haben, dies in den nächsten sechs Monaten in Erwägung ziehen.

Die Gesamtzahl der Menschen, die generative KI-Tools für Gesundheitsinformationen verwenden, ist sogar noch höher, wenn man andere Tools wie Google Gemini, Microsoft Copilot und Meta AI berücksichtigt.

Insbesondere stellte das Wissenschaftlerteam in dieser Studie fest, dass Menschen aus kulturell und sprachlich vielfältigen Gemeinschaften ChatGPT eher für Gesundheitsinformationen verwenden.

Wenn sie ChatGPT mit der Übersetzung von Gesundheitsinformationen beauftragen, erhöht das die Komplexität zusätzlich. Generative KI-Tools sind in anderen Sprachen oft weniger genau.

Wir müssen in Dienste (menschlicher oder maschineller Art) investieren, um sicherzustellen, dass das Sprechen einer anderen Sprache kein Hindernis für den Zugriff auf hochwertige Gesundheitsinformationen darstellt.

Wie sieht „KI-Gesundheitswissen“ aus?

Künstliche Intelligenz (KI) birgt sowohl Chancen als auch Risiken für diejenigen, die sie zur Suche nach Gesundheitsinformationen nutzen.

Einerseits spricht diese Technologie Menschen an, die bereits heute mit erheblichen Hürden beim Zugang zu Gesundheitsversorgung und Gesundheitsinformationen konfrontiert sind. Einer ihrer Hauptvorteile ist die Möglichkeit, Gesundheitsinformationen unmittelbar und leicht verständlich bereitzustellen.

Eine aktuelle Überprüfung von Studien ergab, dass generative KI-Tools zunehmend in der Lage sind, allgemeine Gesundheitsfragen in einfacher Sprache zu beantworten, obwohl sie bei komplexen Gesundheitsthemen weniger genau sind.

Dies hat offensichtliche Vorteile, da die meisten Gesundheitsinformationen selbst während einer Pandemie auf einem für die Allgemeinbevölkerung zu komplexen Niveau verfasst sind.

Andererseits greifen die Menschen bei der Gesundheitsberatung auf allgemeine KI-Tools zurück, was bei Fragen, die eine klinische Untersuchung und ein tieferes Verständnis des Patienten erfordern, riskanter ist.

Es gibt zahlreiche Fallstudien, die die Gefahren aufzeigen, die mit der Verwendung allgemeiner KI-Tools bei der Entscheidung über einen Krankenhausaufenthalt verbunden sind.

Wir müssen den Menschen dabei helfen, sorgfältig darüber nachzudenken, welche Art von Fragen sie KI-Tools um Rat stellen, und sie mit den richtigen Diensten verbinden, die riskante Gesundheitsfragen beantworten können.

Dieser Artikel wurde unter einer Creative Commons-Lizenz aus The Conversation übersetzt und zusammengefasst.