KI Governance

[Lukas]

KI-Governance umfasst die Überwachung und die Gestaltung von Regeln, Richtlinien und Verfahren, um den Einsatz von Künstlicher Intelligenz (KI) verantwortungsvoll und ethisch zu gestalten. Sie trägt dazu bei, die durch den Einsatz von KI generierten Risiken zu minimieren und Chancen zu maximieren, indem sie klare Verantwortlichkeiten und Entscheidungsprozesse für den Umgang mit dieser Schlüsseltechnologie etabliert¹.

Eine umfassende Literaturanalyse, durchgeführt vom Mittelstand-Digital Zentrum Rostock am Standort Stralsund, untersuchte die zentralen Handlungsfelder der KI-Governance. Zu Beginn wurden 326 Artikel identifiziert, von denen nach Anwendung von Exklusionskriterien 23 detailliert ausgewertet wurden. Die Untersuchung konzentrierte sich auf die elf Governance-Grundsätze der ISO/IEC 38500:2024, einem international anerkannten Standard für IT-Governance, der Prinzipien wie Verantwortlichkeit, Strategieausrichtung und Wertschöpfung definiert und eine Orientierungshilfe für die Steuerung und Überwachung von IT-Systemen bietet. Besonders hervorgehoben wurde die Rolle von KI bei der Umgestaltung von Geschäftsmodellen und der Unternehmenswertschöpfung sowie in den Bereichen Aufsicht, Rechenschaftspflicht und Führung. Dabei zeigte sich, dass KI nicht nur neue Chancen eröffnet, sondern auch Risiken birgt, die durch eine strukturierte Governance minimiert werden müssen.

Trotz des wachsenden Interesses an KI-Governance bleibt die Forschung in diesem Bereich noch lückenhaft. So fehlen systematische Ansätze zur Integration von KI in strategische Unternehmensziele oder zur Berücksichtigung ihrer langfristigen Auswirkungen auf den Unternehmenszweck und die gesellschaftliche Verantwortung.

Die Studie zeigte zudem, dass die ISO/IEC 38500:2024 als Rahmenwerk geeignet ist, um Inhalte und Maßnahmen für eine wirksame KI-Governance zu strukturieren. Durch zukünftige Forschung könnte dieses Modell als Grundlage für ein umfassendes KI-Governance-Framework dienen².

¹Heiwig, Louis(22.11.2024). Was ist KI Governance und warum ist sie wichtig? Über Sicherheit und Ethik in der Nutzung künstlicher Intelligenz. https://www.itportal24.de/ratgeber/ki-governance
²Klotz, Michael; Adam, Waldemar; Noack-Sandring, Lukas; Schueschke, Niklas (2024): Literaturstudie zu den Handlungsbereichen einer Governance für den Einsatz von KI-Systemen im Unternehmen. INFORMATIK 2024. DOI: 10.18420/inf2024_139. Bonn: Gesellschaft für Informatik e.V.. PISSN: 1617-5468. ISBN: 978-3-88579-746-3. pp.1597-1609