Webinar-Review: EU AI Act für Kostenträger

Am 25. Oktober wurde das erste Webinar der Reihe “CDR konkret” zum Thema “EU AI Act für Kostenträger” durchgeführt. An der insgesamt zweieinhalbstündigen Veranstaltung nahmen Vertreter*Innen von über 40 Organisationen Teil. Im nachfolgenden Beitrag finden sich Übersichten der Beiträge, Umfrageergebnisse sowie Links zu Folien und Aufzeichnungen.

“CDR konkret” ist ein neues praxiszentriertes Austauschformat zur Corporate Digital Responsibility. Initiator und Schirmherr ist das CDR-Magazin. Hintergründe und Ziele des Formats sind hier beschrieben.

Die erste Veranstaltung widmete sich vertrauenswürdiger Künstlicher Intelligenz – genauer, dem Thema “EU AI Act für Kostenträger”. Damit gemeint sind primär gesetzliche und private Krankenversicherungen (GKV/PKV). Vom Thema betroffen sind aber auch Politik, Verwaltung, Verbände und nicht zuletzt StartUps aus dem Health-Umfeld. Insofern war es erfreulich, dass der Einladung Vertreter*Innen von über 40 unterschiedlichen Organisationen gefolgt sind, darunter Vertreter*Innen von 13 verschiedenen GKVs, sechs PKVs, acht Verbänden sowie drei Ministerien.

Nach den Vorträgen kam es zu einer intensiv geführten Diskussion, welche auch 30 Minuten nach dem offiziellen Ende der Veranstaltung noch nicht beendet war. Aus Datenschutzgründen wurden die Diskussionen nicht aufgezeichnet.

Die nachfolgende Dokumentation des Webinars ist in fünf Abschnitte gegliedert:

Einführung zu Thema und Beiträgen
Fachbeiträge, Unterlagen und Webcast in zeitlicher Reihenfolge
Diskussionsschwerpunkte
Umfrageergebnisse zur Relevanz des EU AI Act für Kostenträger
Fazit und Ausblick

I. Einführung zu Thema und Beiträgen

Das Webinar begann mit einer fachlichen Einführung der Moderatorin Katharina Schüller, einer international anerkannten KI- und Daten-Ethik-Expertin sowie Gründerin u. Geschäftsführerin von STAT-UP Statistical Consulting & Data Science. Sie wies darauf hin, dass beim Thema “Governance von Künstlicher Intelligenz” aktuell einiges in Bewegung sei. U.a. erwähnte sie die laufenden Arbeiten der IEEE Standards Association, bei welcher sie seit 2021 eine internationale Arbeitsgruppe zur Entwicklung eines globalen Standards für Data & AI Literacy leitet.

Anschließend stellte Kathaina Schüller die drei Speaker und deren Hintergrund vor:

Christoph Schrills, Managing Consultant Data & Analytics, NTT DATA
Mathias Schadly, Datenschutzbeauftragter, AOK Bayern
Martin Grohmann, Leiter Medizin und Versorgung der Gesundheitsforen Leipzig

II. Fachbeiträge, Unterlagen und Webcast in zeitlicher Reihenfolge

Der erste Fachbeitrag kam von Christoph Schrills. Er widmete sich den generellen Inhalten des EU AI Acts. Zentrale Aspekte waren u.a. folgende Fragestellungen:

Warum gibt es den AI Act überhaupt?
Welche Inhalte und Sanktionen besitzt er?
Welche Frameworks und Governance-Prozesse können genutzt werden?

Inhalt und Ziel dieses Beitrag war es u.a., den zahlreichen Teilnehmer*Innen, welche über unterschiedliche Vorkenntnisse zum EU AI Act verfügten, die regulatorischen Kerninhalte des Act zu vermitteln. Damit konnte nicht nur wertvolles Wissen vermittelt werden, der Beitrag half zudem dabei, dass gleich zu Beginn eine fachliche Basis für die Folgebeiträge sowie die Diskussion mit den Teilnehmer*Innen entstand.

Die Folien des Beitrags von Christoph Schrills können hier als PDF downgeloadet werden.

Ein Videomitschnitt ist des Beitrags ist auf YouTube hinterlegt. Die Diskussion am Ende des Vortags wurde aus Datenschutzgründen nicht mit aufgezeichnet (Dauer: 25 Min).

Im zweiten Fachbeitrag erläuterte Mathias Schadly, welche Erfahrungen die AOK Bayern mit dem Zusammenspiel des EU AI Acts mit allgemeinen Datenschutzregelungen bislang sammeln konnte. Er beleuchtet dabei u.a. folgende Fragestellungen:

Welche Ausgangslage besteht bzgl. AI ACT aus Sicht eines (gesetzlichen) Kostenträgers?
Welche Herangehensweise zur Systematisierung des Themenkomplexes wurde gewählt?
Wie kann die Bewertung der Kritikalität i.S.d. künftigen Art. 6 des EU AI Act erfolgen?

Inhalt und Ziel dieses Beitrags war es insbesondere, die von der AOK Bayern in der Praxis evaluierten Herausforderungen im Hinblick auf die Einordnung und Umsetzung des EU AI Acts von und durch (gesetzliche) Kostenträger zu vermitteln.

Die Folien des Beitrags von Mathias Schadly können hier downgeloadet werden.

Der Videomitschnitt ist ebenfalls auf YouTube hinterlegt. Die Diskussion am Ende des Vortags wurde aus Datenschutzgründen nicht mit aufgezeichnet (Dauer: 33 Min).

Im dritten Beitrag von Martin Grohmann ging es darum, konkrete Use Cases von KI speziell für Kostenträger zu skizzieren und so die operative Brücke zum EU AI Act zu bauen. Die drei von ihm dargestellten Use Cases betrafen den Einsatz von:

KI-Tools wie wie ChatGPT im Unternehmen,
die Verwendung von KI bei bei prädikativen Modellen,
sowie der Causal Inference und der Risikoerkennung.

Die Folien des Beitrags von Martin Grohmann können hier downgeloadet werden.

Der Videomitschnitt ist ebenfalls auf YouTube hinterlegt. Die Diskussion am Ende des Vortags wurde aus Datenschutzgründen nicht mit aufgezeichnet (Dauer 26 Min).

III. Diskussionsschwerpunkte

Die Diskussionen im Rahmen Webinars können in drei Abschnitte unterteilt werden:

Fragen nach den jeweils einzelnen Sessions (11.15 bis 12.40 Uhr)
Moderierte Diskussionsrunde bis zum offiziellen Ende des Webinars (12.40 bis 13.00 Uhr)
Diskussionen nach dem offiziellen Ende des Webinars (13.00 bis 13.30 Uhr)

Von grundlegender Relevanz waren vor allem die beiden letzten Abschnitte. Hier ging es u.a. um Grundfragen zur Definition von KI sowie um das Verhältnis von Daten und Algorithmen:

Ist all das, was gegenwärtig als KI bezeichnet wird, überhaupt KI?
Wie findet man heraus, welche der aktuell und künftig von Kostenträgern genutzten Software-Lösungen dem EU AI Act bzw. welcher Risikoklasse unterliegen?
Wie sehr bilden die Daten, die von Kostenträgern (mit und ohne KI) verwendet werden, tatsächlich “die Realität” ab?
Wie kommt man als Kostenträger zu validen Daten als Basis für verantwortungsvollen Einsatz von KI?
Wie können z.B. Ärzt*innen und Patient*Innen dazu beitragen, die für den Einsatz von KI erforderlichen Daten zu gewinnen bzw. wie kann der diesbezügliche Nutzen von Daten als auch der KI an diese Gruppen kommuniziert werden?

Darauf baute die Frage auf, ob und wie weit KI für die Verbesserung eben dieser Kommunikation in Richtung Ärzteschaft und Patient*Innen von Kostenträgern genutzt werden könne bzw. welcher Raum in Anbetracht der Regulierung von KI und Datennutzung bestehen bleibt, um die Qualität von Daten ganz allgemein zu verbessern. Im Rahmen der Diskussion zeichnete sich u.a. ab, dass es im Hinblick auf Kostenträger und Leistungserbringer generell zu klären gelte, wer für welche Daten aus Sicht der Patient*Innen der richtige, weil vertrauenswürdige Treuhänder sei.

Dies mündete zusammen mit spezifischen Fragestellungen zum EU AI Act in die These, dass Kostenträger bei der Lösung dieser und vieler weiterer Themen nach wie vor häufig als Einzelakteure agieren würden. Darauf baute der mehrfach bekundete Wunsch auf, dass gerade im Umfeld von KI und Datennutzung alle möglichen Synergiemöglichkeiten zwischen GKVs als auch PKVs künftig noch mehr als bisher genutzt werden könnten und sollten. Offen blieb allerdings am Ende, in wie weit GKVen und PKVen tatsächlich den gleichen regulatorischen Herausforderungen beim EU AI Act unterliegen.

IV. Umfrageergebnisse zur Relevanz des AI Act für Kostenträgerse

Den Abschluss bildete kurz vor Ende des offiziellen Teils die Zusammenfassung von drei Umfrageergebnissen.

Gefragt wurde:

Wie gut sind die Kostenträger auf den EU AI Act vorbereitet?
Für welche Use Cases wird der EU AI Act besonders hohe Relevanz besitzen?
Für welche Abteilungen wird der EU AI Act besonders wichtig sein?

Die Ergebnisse zu den drei Fragen in gleicher Reihenfolge:

Eine Deutung der Ergebnisse konnte in Anbetracht der Kürze der verbleibenden Zeit zwar nur oberflächlich erfolgen. Es bestand aber insgesamt Konsens darüber, dass der EU AI Act für Kostenträger vielfältige Herausforderungen mit sich bringen wird – und dies auch und gerade bei Fachabteilungen, die auf den ersten Blick weniger vom EU AI betroffen zu sein scheinen, z.B. Innovation und Versorgung.

V. Fazit und Ausblick

Aus Sicht des CDR-Magazins als Veranstalter des Webinars war nicht nur die Teilnahme der Mitarbeiter*Innen von über 40 Organisationen im Umfeld der Kostenträger, sondern vor allem das ebenso vielfältige wie nahezu ausschließlich positive Feedback der Teilnehmer*Innen erfreulich.

Auch die Tatsache, das weit über das offizielle Ende des Webinars hinaus engagiert zum Thema KI im Allgemeinen und AI Act im Besonderen diskutiert wurde, hat verdeutlicht, dass die Idee von “CDR konkret”, Expert*Innen möglichst branchenspezifisch zu Themen digitaler Verantwortung zusammenzubringen, gut funktioniert hat.