EU AI-Act: Kompakter Praxis-Leitfaden für die Life-Sciences-Branche

Von der Forschung über die Diagnosestellung bis zur Entwicklung neuartiger Therapien: Künstliche Intelligenz (KI) hat das Potenzial, diverse Segmente der Life-Sciences-Branche zu transformieren. Dank des technologischen Fortschritts wird es künftig schneller möglich sein beispielsweise große Mengen biomedizinischer Daten zu analysieren, komplexe Muster zu erkennen und präzise Vorhersagen zu treffen. Ein bedeutender Werthebel, der neue Wachstumsoptionen ermöglicht.

Rechtlich richtungsweisend – und verbindlich – ist für Unternehmen dabei der AI-Act der Europäischen Union (EU AI-Act), der künftige Rechtsrahmen für eine sichere und ethische KI-Nutzung. Doch was bedeutet der EU AI-Act für die Life-Sciences-Branche genau? Unsere Expertinnen und Experten zeigen in einem Whitepaper jetzt präzise und praxisnah auf, welche Anforderungen und Auswirkungen Unternehmen bei der Compliance-Vorbereitung besonders im Blick behalten sollten – und wie ein proaktiver Ansatz für Risikominderung gestaltet werden kann. Der Titel der Publikation: „Ein Kompass für den Artificial Intelligence Act (AI-Act)“. 

Der EU AI-Act kategorisiert KI-Systeme nach Risikoniveau und erlegt Entwicklern sowie Nutzern Pflichten auf: Bei KI-Systemen mit einem hohen Risiko im Sinne des Gesetzes müssen sich die Entwickler vor der Implementierung einer sogenannten Konformitätsbewertung unterziehen. Dies gilt ebenfalls für Systeme, die etwa in der medizinischen Diagnose, bei Behandlungsempfehlungen und in der Präzisionsmedizin eingesetzt werden. Eine Selbstbewertung ist zwar grundsätzlich vorgesehen, weil harmonisierte Standards fehlen, praktisch wird diese jedoch erst in der Zukunft möglich sein.

Auch für KI-Systeme, die außerhalb der EU entwickelt, aber in der EU vermarktet oder genutzt werden, findet der EU AI-Act Anwendung. Das bedeutet, dass Entwickler von KI-Systemen den EU AI-Act standortunabhängig einhalten müssen, wenn sie ihre Systeme in der EU anbieten möchten. Darüber hinaus wird der EU AI-Act auch so interpretiert, dass Life-Sciences-Unternehmen aus Drittstaaten betroffen sind, die künstliche Intelligenz nutzen, um Produkte zu entwickeln, die auf dem Europäischen Markt verkauft werden sollen.

Der EU AI-Act wird voraussichtlich im Juni 2024 in Kraft treten. Nach aktuellem Stand sieht das Gesetz abgestufte Übergangsfristen zwischen sechs und 36 Monaten für verschiedene Kategorien von KI-Systemen vor. Führungskräfte, die in den Bereichen Compliance, Data Governance sowie Entwicklung und Einsatz von KI-Technologien tätig sind, sollten sich auf neue Verantwortlichkeiten einstellen.

Der EU AI-Act ist folgenreich für diverse Felder der Life-Sciences-Branche, darunter therapiebegleitende Diagnostika oder klinische Studien. Auch auf die Medizinprodukte-Industrie wird der EU AI-Act erheblichen Einfluss haben, insbesondere auf die Herstellung von Produkten, die als “hochriskant” eingestuft werden. Die Anforderungen betreffen insbesondere das Risikomanagement, die Data Governance und die Compliance-Überwachung. Für Unternehmen, die KI-gestützte Produkte herstellen, ist es angesichts der komplexen Gemengelage empfehlenswert, für die ganzheitliche Bewältigung der Aufgaben externen Rat einzuholen.

Im Whitepaper schlüsseln unsere Expertinnen und Experten auf, welche neun Kategorien angesichts der künftigen Vorgaben von Unternehmen hinsichtlich ihres Reifegrads insbesondere zu bewerten sind. Die einzelnen Aspekte werden separat dargelegt. Die Bewertung kann anschließend auf einer Skala von 1 (unvorbereitet) bis 5 (führend) vorgenommen werden. Bezüglich folgender Aspekte gilt es sich einzustufen:

• Risikoklassifizierung
• Konformitätsbewertung
• Transparenz
• Menschliche Aufsicht
• Fairness, Nichtdiskriminierung und Voreingenommenheit
• Erklärbarkeit
• Data Governance
• Cyber Security
• Compliance und Durchsetzung

Im Anschluss daran legen unsere Autorinnen und Autoren detailliert dar, wie KPMG Unternehmen aus der Life-Sciences-Branche unterstützen kann – von der Strategieentwicklung bis zur Prozessüberwachung in der Praxis.