STUDIE

In Kürze

In Kürze

  • Für den erfolgreichen Einsatz von KI braucht es Vertrauen. Aufgrund der scheinbaren Risiken tun sich viele Unternehmen damit jedoch schwer.
  • Um Vertrauen in KI zu schaffen, müssen Unternehmen nicht nur Prinzipien für KI mit Verantwortung definieren, sondern sie auch in die Praxis umsetzen.
  • Wir bei Accenture wollen Unternehmen dabei unterstützen. Deswegen haben wir Lösungen für die vier Säulen der KI mit Verantwortung entwickelt.
  • Hier stellen wir unsere Erkenntnisse vor: von den Problemen und Lösungen bis hin zu Fallstudien, die zeigen, wie der Erfolg in der Praxis gelingt.


KI mit Verantwortung – eine Notwendigkeit

Der Mehrwert, den KI für Unternehmen schaffen kann, ist längst nachgewiesen. Dennoch fällt es vielen immer noch schwer, die damit verbundenen Risiken richtig einzuschätzen.

Wir haben Risikomanager:innen weltweit dazu befragt: 58 % betrachten KI als wahrscheinlichsten Auslöser ungewollter Veränderungen in den nächsten zwei Jahren. Nur 11 % sehen sich in der Lage, die Risiken einer unternehmensweiten Einführung von KI vollständig zu erfassen.

11%

der Risikomanager:innen sagen, dass sie die Risiken, die mit der Einführung von KI im Unternehmen verbundenen sind, richtig einschätzen können.

Voreingenommenheit (Bias), Diskriminierung, Fairness und Erklärbarkeit sind zentrale Herausforderungen im Zusammenhang mit KI. Zwar gibt es theoretische Ansätze, doch deren Umsetzung in die Praxis erfordert schwere Entscheidungen und Einschränkungen.

KI-Entscheidungen beeinflussen unser Leben immer mehr. Entsprechend wächst auch die Verantwortung der Unternehmen: Sie müssen sich die potenziellen ethischen und sozio-technologischen Folgen bewusst machen, die durch die Einführung von KI entstehen.

Als Reaktion darauf haben viele Unternehmen begonnen, ihren Umgang mit KI und Daten zu professionalisieren. Haben sie schon zu Beginn die richtigen Strukturen geschaffen und KI mit Verantwortung in Betracht gezogen, konnten sie ihre KI-Investitionen mit Weitblick skalieren. So erzielen sie eine Rendite, die fast dreimal höher ist als die aller anderen Unternehmen.

Allerdings können viele Unternehmen sich noch immer nicht vorstellen, wie KI mit Verantwortung in ihren laufenden Prozessen von Nutzen sein kann. Wie also lassen sich die Herausforderungen überwinden – und wie gelingt der Übergang von der Theorie zur Praxis?

Einblicke aus der Praxis: Die Realitäten von KI mit Verantwortung

Wir haben Expert:innen (Datenwissenschaftler:innen, KI-Ingenieur:innen, Jurist:innen, Arbeits-/Organisationspsycholog:innen und Projektmanager:innen) aus 19 Unternehmen auf vier Kontinenten befragt. Unsere Analyse zeigt: Einige Unternehmen tun sich schwer, einen systematischen internen Ansatz zu entwickeln, um die Theorie von KI mit Verantwortung in die Praxis umzusetzen. Aus Erfahrung wissen wir, dass sie vermutlich unterschätzen, wie komplex und umfassend die nötigen Veränderungen sind.

Die vier Säulen von KI mit Verantwortung

Organisationen müssen eine zentrale Herausforderung bewältigen: die Umsetzung ethischer Prinzipien in praktische, messbare Kennzahlen. Für die Einbindung in alltägliche Prozesse benötigen sie zudem das richtige organisatorische, technische, operative und reputationsbezogene Gerüst. Basierend auf unserer Erfahrung mit Lösungen für KI mit Verantwortung haben wir vier Säulen für erfolgreiche KI-Implementierungen definiert. Für jede Säule haben wir die wichtigsten Herausforderungen aus der Praxis zusammengefasst, Empfehlungen vorgeschlagen und eine Fallstudie angeführt, die zeigt, wie eine erfolgreiche Umsetzung in der Realität aussieht.

Organisatorisch

Demokratisieren Sie neue Arbeitsweisen und erleichtern Sie damit die Zusammenarbeit zwischen Mensch und Maschine.

Herausforderungen aus der Praxis: Den befragten Expert:innen waren besonders geeignete Leistungskennzahlen und die Anerkennung ihrer Arbeit wichtig. Laut ihrer Einschätzung werde der Risikominderung und der Vermeidung von Reputationsschäden noch immer zu wenig Bedeutung beigemessen. Außerdem ziehen Führungskräfte unter Zeitdruck häufig kurzfristige Produkterfolge den langfristigen Vorteilen von KI mit Verantwortung vor.

Wichtig ist, dass die Unternehmenskultur es jeder Person ermöglicht, Zweifel oder Bedenken gegenüber KI-Systemen zu äußern, ohne die Innovation damit zu verhindern.

Empfehlungen: Damit KI mit Verantwortung zu einer geschäftlichen Priorität wird, ist eine starke Führung von zentraler Bedeutung. Dafür müssen Unternehmen erkennen, wo neue Rollenbilder erforderlich sind, und aktiv neue Mitarbeiter einstellen oder qualifizieren.

Die Unternehmenskultur sollte es jeder Person ermöglichen, ihre Bedenken gegenüber KI-Systemen zu äußern, ohne dabei Innovationen zu verhindern. Klare Erfolgskriterien, Anreize und Schulungen sind wichtige Voraussetzungen.

Fallstudie: In unserem vollständigen Bericht erfahren Sie, wie ein führendes europäisches Finanzdienstleistungsunternehmen mit unserer Hilfe die Theorie von KI mit Verantwortung in die Praxis umsetzen konnte.

Operativ

Führen Sie Kontrollstrukturen und Systeme ein, mit deren Hilfe sich der volle Nutzen von KI entfalten kann.

Herausforderungen aus der Praxis: Die Befragten gaben an, dass die Unternehmen mit vier Problemen kämpfen: mit der mangelnden Ausrichtung auf Stakeholder, mit Bürokratie, widersprüchlichen Zielen und mangelnder Klarheit über Prozesse/Verantwortlichkeiten. Einzelne Personen handeln oft ad hoc und folgen ihren eigenen Werten und Einschätzungen. Unklarheiten in Bezug auf Führung und Verantwortlichkeiten, unnötige Konflikte und konkurrierende Anreize zwischen den Gruppen führten letztlich zu Starrheit und einer reaktiven Denkweise.

Es braucht transparente, bereichsübergreifende Governance-Strukturen, in denen Rollen, Erwartungen und Verantwortlichkeiten festgelegt werden, um intern Vertrauen in KI-Technologien aufzubauen.

Empfehlungen: Schaffen Sie transparente, bereichsübergreifende Governance-Strukturen, indem Sie Rollen, Erwartungen und Verantwortlichkeiten festlegen – das fördert das interne Vertrauen in KI-Technologien. Hier kann auch die frühzeitige Einrichtung eines bereichsübergreifenden Ethikausschusses helfen. Sind Rollen, Arbeitsweisen und Befugnisse festgelegt, werden laufende Verfahren aufrechterhalten und bedarfsgerechte Reaktionen möglich.

Fallstudie: In unserem vollständigen Bericht erfahren Sie, wie wir einen globalen Kommunikationsanbieter dabei unterstützt haben, die Theorie von KI mit Verantwortung in die Praxis umzusetzen.

Technisch

Gestalten Sie Systeme und Plattformen so, dass sie erklärbar sind und Vertrauen schaffen.

Herausforderungen aus der Praxis: Eines der größten Hindernisse der Expert:innen war der Mangel an Fachwissen. Wie lässt sich „ethische Nutzung“ definieren und messen und wie wirkt sich ein Algorithmus auf Daten, Modelle und Ergebnisse aus? Ohne etablierte Methoden zur Überwachung und Minderung dieser Risiken können Unternehmen nicht sicher sein, dass ein System fair ist. Und mit der Integration solch akademischer Metriken wie der Fairness eines Algorithmus tun sich Unternehmen schwer. KI mit Verantwortung lässt sich jedoch nicht an der Umsatzgenerierung oder den Klickraten messen. Trotzdem verlassen sich viele Unternehmen bei der Erfolgsmessung immer noch auf diese traditionellen Leistungskennzahlen.

Es müssen KI-Modelle, -Systeme und -Plattformen entwickelt und bereitgestellt werden, die vertrauenswürdig, fair und erklärbar sind.

Empfehlungen: Entwickeln Sie KI-Modelle, -Systeme und -Plattformen, die vertrauenswürdig, fair und erklärbar sind. Mit bewährten qualitativen und quantitativen Verfahren zur Bewertung potenzieller Gefahren können Unternehmen das Risiko in allen Bereichen mindern.

Setzen Sie sich intensiv mit den Gründen für Vorurteile gegenüber KI auseinander. So können sie bessere Lösungsstrategien entwickeln, die auf das Unternehmen und die Anwendung gleichermaßen abgestimmt sind. Entscheidend sind hier die richtigen Werkzeuge, um Hintergründe zu erforschen und die Folgen von Fairnessentscheidungen zu verstehen.

Fallstudie: Wie wir der Allied Irish Bank geholfen haben, die technischen Prinzipien von KI mit Verantwortung in die Praxis umzusetzen, erfahren Sie in unserem vollständigen Bericht..

Reputationsbezogen

Formulieren Sie die Mission von KI mit Verantwortung und stellen Sie sicher, dass sie in den Unternehmenswerten und ethischen Grundsätzen verankert ist.

Herausforderungen aus der Praxis: Ohne die richtigen organisatorischen, operativen und technischen Grundlagen für KI mit Verantwortung sind die befragten Unternehmen gezwungen, reaktive Ansätze zu verfolgen. Dadurch setzen sie sich einem erheblichen Reputationsschaden aus.

Formulieren Sie ein Leitbild für verantwortungsbewusstes Handeln, das in Ihren Grundsätzen verankert ist und sich auf Ihre Marke, öffentliche Risikobewertungen und Empfehlungen stützt.

Empfehlungen: Führende Unternehmen formulieren ein klares Leitbild für verantwortungsbewusstes Handeln, das in ihren Werten verankert ist. Indem sie die wichtigsten Kennzahlen kontinuierlich messen und überwachen, können sie Risiken bewältigen und transparent kommunizieren. Erfolgreiche Unternehmen setzen sich dabei mit unterschiedlichen Sichtweisen auseinander. So werden die im Voraus definierten Grundsätze auf die Probe gestellt: Das finale Leitbild ist dann oft besser durchdacht und das Team hat häufig mehr Vertrauen.

Fallstudie: Laden Sie unseren vollständigen Bericht herunter, um zu erfahren, wie wir einer großen Regierungsbehörde geholfen haben, die Reputationsprinzipien von KI mit Verantwortung in die Praxis umzusetzen.



Die geschäftskritische Reise zu KI mit Verantwortung

Erfolgreiche Unternehmen verfolgen von Anfang an einen systematischen Ansatz für KI mit Verantwortung. Sie sind sich des Umfangs und der Komplexität der erforderlichen Veränderungen bewusst und gehen die Herausforderungen parallel an.

So gehen sie zuversichtlich von der Theorie zur Praxis über, unterstützen die Professionalisierung der KI im ganzen Unternehmen und schaffen die erforderlichen Strukturen. Auf diese Weise wird der langfristige Wert von KI mit Verantwortung bewiesen.

Unsere Gespräche ergaben eine Reihe organisatorischer, operativer, technischer und reputationsbezogener Herausforderungen, die einige Unternehmen an der Umsetzung hindern. Oft liegt der Fokus zunächst nur auf ethischen und rechtlichen Anforderungen. Doch der Erfolg hängt auch von der Fähigkeit des Unternehmens ab, traditionelle Arbeitsweisen zu überdenken, um den Einsatz von KI zu fördern. Durch diesen Prozess und den Übergang von der Theorie zur Praxis schaffen Unternehmen die erforderlichen Strukturen, um den langfristigen Wert von KI mit Verantwortung zu verdeutlichen.

Mit 25 Fragen helfen wir unseren Kunden dabei, ihre Motive und Herausforderungen sowie ihren Reifegrad in Bezug auf Mitarbeitende, Prozesse und Technologie im Vergleich zum Wettbewerb einzuschätzen. Wo stehen Sie auf Ihrer Reise zu KI mit Verantwortung?

Ray Eitel-Porter

Managing Director – Applied Intelligence, Global Lead for Responsible AI


Medb Corcoran

Managing Director – Accenture Labs, Global Responsible AI Lead for Technology Innovation


Patrick Connolly

Research Manager – The Dock, Accenture Research

MEHR ZU DIESEM THEMA

Professionalisierung von KI
Daten für den guten Zweck
Für COVID-19 priorisieren

Ihr Ansprechpartner

ABONNEMENT-CENTER
Bleiben Sie mit unserem Newsletter auf dem Laufenden Bleiben Sie mit unserem Newsletter auf dem Laufenden