Künstliche Intelligenz nutzen, aber verantwortungsvoll: Wege zu einer umfassenden KI-Governance

Haben Sie bereits mit KI-basierten Programmen wie ChatGPT, Midjourney oder Dall-E gearbeitet? Die rasante Entwicklung von künstlicher Intelligenz ist beeindruckend  - und wir erleben gerade erst den Anfang einer technischen Revolution. 

Dabei sind schon jetzt nicht nur die Chancen zu bedenken, die in generativen KIs stecken, sondern auch die Risiken. Das stellten beispielsweise Unternehmen fest, die ein KI-Recruiting-System getestet haben, das Lebensläufe scannte und die vielversprechendsten Profile identifizierte. Schnell wurde klar, dass die KI diskriminierende Tendenzen gegenüber Frauen aufwies. Die Nutzung der KI für diesen Zweck wurde daraufhin wieder eingestellt.

Dies zeigt: Für Unternehmen ist eine umfassende KI-Governance unverzichtbar, um eine vertrauenswürdige, verantwortungsvolle Nutzung von KI-basierten Lösungen sicherzustellen und Compliance-Risiken zu vermeiden  - zumal in der weiteren KI-Entwicklung die Komplexität der Anwendungen zunehmen und die Transparenz und Nachvollziehbarkeit der Ergebnisse sinken wird. 

Wie ein geeignetes Target Operating Model (TOM) für die KI-Governance aussehen kann, beschreiben die Experten von KPMG und der KPMG Law Rechtsanwaltsgesellschaft mbH im neuen Whitepaper „KI-Risiken im Blick“.

KI-Governance ist komplexer als eine herkömmliche IT-Governance. Daher sollte KI-Governance auf der Agenda der Top-Entscheider:innen (Geschäftsführung, Aufsichtsrat) zwingend ein zentraler Punkt werden: Es ist zu klären, für welche Einsatzzwecke innerhalb des Unternehmens KI-Lösungen überhaupt geeignet sind, welche Rahmenbedingungen dafür erforderlich sind und wie sich autonome Systeme auf Prozesse auswirken werden. 

Hierfür erläutern unsere Experten im Whitepaper die KI-Risiken, die zu identifizieren und zu klassifizieren sind. Außerdem gehen sie auf neue regulatorische Entwicklungen rund um die Nutzung von KI ein: den geplanten EU AI Act, das IDW EPS 861 als relevanten deutschen Standard zur Prüfung von künstlicher Intelligenz sowie auf internationaler Ebene die Global Partnership on Artificial Intelligence (GPAI). Der Schwerpunkt liegt dabei auf dem EU AI Act mit seinen drei Risikoklassen („unannehmbar“, „hoch“, „gering/minimal“). 

Am Schluss stellen die Autoren den KPMG-Ansatz „ABC for AI“ vor, bei dem Compliance und Performance zusammen gedacht werden, um die Potenziale von KI voll auszuschöpfen.