Vertrauenswürdigkeit von Online-Gesundheits-informationen

Rund zwei Drittel der Patientinnen und Patienten neigen dazu, gesundheitliche Themen im Netz zu recherchieren. Die Vertrauenswürdigkeit der Quellen und die Medienkompetenz der Nutzerinnen und Nutzer ergeben dabei häufig ein Spannungsfeld, das Risiken birgt.

Mit dem Start des Forschungsprojekts „VERO“ wollen wir gemeinsam mit dem Universitätsklinikum Bonn sowie der Fördergemeinschaft Deutsche Kinderherzzentren e. V. (kinderherzen) und der j&s-soft GmbH ein Hilfsinstrument etablieren, das unter anderem die Vertrauenswürdigkeit von Online-Quellen bewertet. Gefördert wird das Forschungsprojekt vom Bundesministerium für Bildung und Forschung – BMBF.

Status Quo in digitaler Gesundheitskompetenz

Das Internet hat das klassische Verhältnis von Sendern und Empfängern verändert. Während traditionelle Massen- und Fachmedien früher eine einseitige Kommunikation boten, bei der Journalisten und Experten Inhalte erzeugten und die Leserschaft passiv konsumierte, ermöglicht das Internet eine bidirektionale Interaktion. Nutzerinnen und Nutzer können nun aktiv an der Berichterstattung teilnehmen, indem sie Kommentare abgeben, Beiträge teilen und vor allem: selbst Inhalte erstellen. Diese Demokratisierung der Medienlandschaft hat zur Entstehung neuer Plattformen wie Blogs, soziale Netzwerke und alternativer Nachrichtenquellen geführt. Diese vielfältige und dynamische Informationslandschaft bietet enorm viele Vorteile, aber auch einen großen Nachteil.

Durch die Möglichkeit, dass heute jeder Inhalte produzieren und publizieren kann, kann nicht immer davon ausgegangen werden, dass jede gefundene Quelle auch tatsächlich vertrauenswürdig ist. Das gilt für alle Themenbereiche, wird aber besonders heikel, wenn es um sensible Themen wie die eigene Gesundheit, Finanzen oder nachrichtliche Berichterstattung (sog. Fake News) geht.

Falsche oder missverständliche Informationen im Netz halten für Nutzerinnen und Nutzer ein hohes Schadensrisiko bereit und können negative Auswirkungen im echten Leben haben.

Zwar hat die größte Suchmaschine Google bereits einen umfangreichen Bewertungskatalog zu sogenannten „Your Money, Your Life“-Themen und durch diverse Updates den Algorithmus soweit entwickelt, dass die ersten Treffer in der Regel vertrauenswürdig sind, doch das Internet ist groß und Inhalte werden unlängst auch über andere Plattformen gefunden. Mit ChatGPT und weiteren auf großen Sprachmodellen basierten Chatbots wird die Recherche sogar noch einfacher. Diese formulieren zwar meist überzeugende Antworten, aber leider sind diese oft falsch, die Quellen sind unbekannt oder einfach erfunden.

Das Forschungsprojekt VERO hat das Ziel, wirklich jede Website auf ihre Vertrauenswürdigkeit in Sachen Gesundheitskompetenz zu beurteilen und in einem für Nutzerinnen und Nutzer leicht verständlichen Score abzubilden.

KI-basierte Bewertung der Vertrauenswürdigkeit von Online-Gesundheits-informationen

Möglich werden soll die Stärkung der digitalen Gesundheits-kompetenz, indem ein neues Verfahren entwickelt und erforscht werden soll, das Crawling-Technologie mit Textanalyse auf Basis von Large Langue Models (LLM) kombiniert. Mittels Retrieval-Augmented Generation (RAG) wird auf eine im Projektverlauf entwickelte Wissensbasis zugegriffen. Jede Online-Gesundheitsinformationsquelle kann so in Sekundenschnelle hinsichtlich ihrer Vertrauenswürdigkeit bewertet und auf dem entwickelten Online-Portal und Browser-Plugin überprüft werden.

In der Projektphase wird das Themenfeld Kinderkardiologie im klinischen Bereich fokussiert, eine zukünftige Erweiterung auf andere medizinische Fachgebiete und Arztpraxen soll möglich sein.

Projektumfang: Integration in den Klinikalltag

Das Forschungsprojekt VERO ist jedoch mehr als ein Browser-Plug-In. VERO besteht aus insgesamt sechs Komponenten, die als Arbeitsziele im Projekt realisiert und von den Partnern mit den verschiedenen Expertisen unterstützt werden:

1. VERO-Wissensbasis (Ground Truth): Als Grundlage der Bewertung von Webseiten wird eine Datenbank aufgebaut, die weitgehend das komplette Wissen des Fachbereichs Kinderkardiologie, der im Projekt adressiert wird, widerspiegelt.
2. VERO-Crawler: Um die Bewertung der Vertrauenswürdigkeit der einzelnen Webseiten zu ermöglichen, wird ein Crawler zur Erfassung von Seiteninhalten von snoopmedia entwickelt. Hierbei können wir auf die Erfahrungen aus dem Pandia-Projekt zurückgreifen. Die gecrawlten Daten werden strukturiert gespeichert und zur Analyse dem folgenden Modul VERO RAG-Analyse von j&s-soft zur Verfügung gestellt und für die weitere Verarbeitung aufbereitet.
3. VERO-RAG-Analyse: Die Einschätzung der Vertrauenswürdigkeit einer Quelle erfolgt unter Zuhilfenahme des im Projekt entwickelten KI-basierten RAG-Systems. Hierbei werden Textinhalte mit der VERO-Wissensbasis abgeglichen und bewertet. Das System reagiert selbstständig auf Veränderungen der Informationsquellen.
4. VERO-Online-Plattform: Die VERO-Online-Plattform ist ein Verzeichnis aller erfassten und bewerteten Gesundheitsinformationsquellen. Diese werden nach Vertrauenswürdigkeit sortiert und können nach Keywords, Krankheiten und Symptomen gefiltert werden.
5. VERO-Browser-Plugin: Mit dem VERO-Browser-Plugin können Nutzerinnen und Nutzer auf eigene Faust recherchieren und bekommen zu jeder besuchten Gesundheitsinformationsquelle in Echtzeit den TrustScore angezeigt.
6. VERO-Feedback-System für Ärztinnen und Ärzte: Im VERO Feedback-System werden die Suchanfragen und Suchverläufe analysiert und den Ärztinnen und Ärzten zum schnellen Verständnis aufbereitet.

Fazit

Als Konsortialführer übernehmen wir bei snoopmedia die Entwicklung eines leistungsfähigen Crawlers zur Erfassung der Datenbasis sowie die konzeptionelle und technische Umsetzung der Anwendungen (Online-Plattform & Browser-Plug-In). Darüber hinaus koordinieren wir die regelmäßigen Statusmeetings sowie die halbjährlich stattfindenden Konsortialmeetings.

Das Forschungsprojekt VERO (FKZ: 16SV9278) ist am 1. August 2024 gestartet und läuft bis zum 31. Juli 2027. Wir freuen uns sehr, erneut mit unserer gemeinsamen Projektskizze und Expertise in einer vom Bund ausgeschriebene Bekanntmachung überzeugen zu können.