KI-Ethik & -Governance

KI eröffnet Unternehmen nie dagewesene Möglichkeiten, bringt aber eine enorme Verantwortung mit sich. Die Entscheidungen von KI-Systemen wirken sich unmittelbar auf das Leben der Menschen aus: Das wirft wichtige Fragen in Bezug auf KI-Ethik, Data Governance, Vertrauen und Rechtmäßigkeit auf. Wenn ein Unternehmen Entscheidungen in die Hände von KI legt, muss es dabei Risiken in Kauf nehmen, die beispielsweise die Reputation und Bereiche wie HR, Datenschutz, Gesundheit und Sicherheit beeinflussen können. Laut einer globalen Studie von Accenture haben 88 % der Befragten jedoch kein Vertrauen in KI-basierte Entscheidungen.

Wie können wir also lernen, Künstlicher Intelligenz zu vertrauen?

KI mit Verantwortung beschreibt die Methode, mit der KI so entwickelt und eingesetzt wird, dass sie Mitarbeitende und Unternehmen stärkt und positive Auswirkungen sowohl auf Kunden als auch auf die Gesellschaft hat – auf diese Weise lässt sich leichter Vertrauen aufbauen und KI sicher skalieren.

Das Algorithmic Assessment beschreibt eine technische Bewertung, durch die potenzielle Risiken und unbeabsichtigte Auswirkungen von KI-Systemen in Ihrem Unternehmen identifiziert und behoben werden können. Das schafft Vertrauen und ermöglicht den Aufbau unterstützender Systeme für die KI-Entscheidungsfindung.

Zunächst werden die Use Cases nach Prioritäten geordnet, um die Evaluierung und Nachbesserung derjenigen mit dem höchsten Risiko und den potenziell größten Auswirkungen sicherzustellen.

Sobald die Prioritäten festgelegt sind, folgt die Evaluierung durch unser Algorithmic Assessment. Dabei wird eine Reihe von qualitativen und quantitativen Untersuchungen durchgeführt, um die verschiedenen Phasen der KI-Entwicklung zu unterstützen. Das Assessment besteht aus vier wichtigen Schritten:

1. Fairness-Ziele für das System beschließen und dabei verschiedene Endnutzer:innen berücksichtigen.
2. Ungleichheiten in KI-Schlussfolgerungen und die Ursachen von Bias ermitteln, die zwischen verschiedenen Nutzer:innen oder Gruppen auftreten können.
3. Alle unbeabsichtigten Auswirkungen mithilfe der vorgeschlagenen Korrekturstrategien minimieren.
4. Systeme durch Verfahren überwachen und steuern, die Ungleichheiten im Entwicklungsprozess des KI-Systems erkennen und beheben.