Künstliche Intelligenz – ein neues Thema im IQWiG mit eigener Arbeitsgruppe

Künstliche Intelligenz (KI, engl. Artificial Intelligence: AI) wird immer mehr im Leben verankert. Ob durch Handys, Chat GPT, bei der Bildgenerierung oder im Gamingbereich – ihre Einsatzgebiete sind riesig und das Bewusstsein für die vielfältigen Anwendungsmöglichkeiten ist in den letzten Jahren enorm gestiegen. Als disruptive, breitgefächerte Technologie wird KI potenziell auch erheblichen Einfluss auf die zukünftige Arbeit innerhalb des IQWiG und auf seine Bewertungen haben. Das IQWiG bereitet sich auf diese Veränderungen vor, um in der Lage zu sein, diese selbst zu gestalten.

Doch damit einhergehend stellt sich neben den technischen Herausforderungen auch die Frage nach der Ethik und wie KI in sensiblen Bereichen wie dem Gesundheitswesen eingesetzt werden kann.

Vor diesem Hintergrund gründete das IQWiG Ende 2023 die AG KI. Diese hat unter anderem das Ziel, verschiedene KI-Technologien und ihr Anwendungspotenzial für die Arbeitsprozesse des IQWiG zu identifizieren, zu bewerten und Strategien zu entwickeln, um KI in die bestehenden Prozesse zu integrieren. Dies geschieht durch die Beobachtung und Testung neuer Entwicklungen und Trends, um mögliche Chancen für das IQWiG frühzeitig zu erkennen. Darüber hinaus sollen die AG-Mitglieder Kompetenzen im Zusammenhang mit KI aufbauen und den Wissenstransfer im IQWiG etablieren, um das Bewusstsein und die Akzeptanz für KI zu steigern. Die AG ist ebenfalls dafür verantwortlich, Vorbereitungen auf die Bewertung von KI-unterstützten Anwendungen in der Gesundheitsversorgung zu treffen. Neben den Chancen, die KI für die Arbeit des IQWiG bieten kann, gibt es auch Risiken, beispielsweise in Bezug auf Datenschutz, IT-Sicherheit, Urheberrecht oder auch Klimabelastung, die von der AG beachtet und mit den Werten des IQWiG in Einklang gebracht werden.

Gerade in Zeiten von Desinformationen, die von KI aufgenommen werden können, ist es wichtig mit evidenzbasiertem Wissen und Informationen sichtbar zu bleiben und gegen Desinformationen vorzugehen.

Aufgrund der vielfältigen Möglichkeiten von KI haben sich drei Kleingruppen in der AG herausgebildet:

• Die Kleingruppe Nutzenbewertung befasst sich mit Nutzenbewertungen von KI-unterstützten medizinischen Interventionen sowie der Durchführung und Publikation entsprechender Studien.
• Die Kleingruppe Trends beobachtet und untersucht neue Trends, um Kompetenzen aufzubauen, Wissen zu transferieren und Entwicklungen mitzubekommen. Dies geschieht durch Literaturscreenings und Monitoring von relevanten Institutionen, der Weitergabe von ausgewählten Texten an das gesamte Institut und der Bereitstellung einer Intranetseite.
• Die Kleingruppe Spielwiese testet verschiedene KI-Anwendungen. Dazu zählt z. B. ein Tool zur Erstellung von Protokollen, das im Alltag eine gute Unterstützung für erste Protokollentwürfe sein kann, aber nicht geeignet ist für tiefere Analysen des Besprochenen. Auch eine lokal installierte, Bilder generierende KI wird derzeit getestet, und zukünftig stehen weitere Tests für unterschiedliche Arbeitsbereiche des IQWiG an.