Künstliche Intelligenz – Haftungsfalle für Manager?

Die Diskussion um Künstliche Intelligenz (KI) ist allgegenwärtig: Man begegnet ihr beim autonomen Fahren, trifft sie bei der Kundenkommunikation und auch vor der Unternehmensleitung macht sie nicht halt. Dort verspricht KI, Geschäftsleiter bei komplexen Prognoseentscheidungen zu unterstützen und Effizienzen zu heben. Gleichzeitig birgt die Künstliche Intelligenz aber auch gewisse Haftungsrisiken für Geschäftsleiter, sowohl bei ihrer Anwendung als auch beim Verzicht auf ihre Anwendung in der Unternehmensleitung, wie Mario Pofahl und Maximilian Mann, Gesellschaftsrechtler bei Linklaters, erläutern.

Ihren Ausgangspunkt nimmt die rechtliche Bewertung der Haftungsrisiken bei den hergebrachten Geschäftsleiterpflichten, insbesondere der Pflicht, die Gesellschaft unter eigener Verantwortung zu leiten, sowie der Pflicht, die Sorgfalt eines ordentlichen und gewissenhaften Geschäftsleiters anzuwenden. Bezüglich Letzterer besteht ein weiter Ermessensspielraum des Geschäftsleiters. Hierbei spielt die „Business Judgment Rule“ eine Rolle. Sie bietet dem Geschäftsleiter Sicherheit, wenn er bei einer unternehmerischen Entscheidung vernünftigerweise annehmen durfte, auf der Grundlage angemessener Information zum Wohle der Gesellschaft zu handeln. Besondere Bedeutung haben daneben die hergebrachten Grundsätze zur Aufgabendelegation; denn, jedenfalls im übertragenen Sinne, findet eine solche statt, wenn Geschäftsleiter gewisse Aufgaben an eine KI abgeben, insbesondere, wenn sie komplexe Informationen aufbereiten oder strategische Entscheidungen vorbereiten lassen. Delegiert der Geschäftsleiter Aufgaben, behält er nach allgemeinen Grundsätzen die Letztverantwortung für Leitungsentscheidungen. Außerdem muss er die Auswahl-, Einweisungs- und Überwachungssorgfalt beachten.

Haftung bei Anwendung von Künstlicher Intelligenz

Bei der Anwendung von KI darf der Geschäftsleiter diese nach den allgemeinen Grundsätzen nicht letztverantwortlich über Leitungsentscheidungen bestimmen lassen, was allerdings einer Unterstützung im Vorbereitungsstadium nicht im Wege steht. Zudem muss der Geschäftsleiter (selbst oder durch Mitarbeiter) darauf achten, dass die verwendete KI für die konkrete Aufgabe geeignet ist und die verwendeten Daten eine hinreichende Qualität haben. Diesbezüglich muss er sich gegebenenfalls Sachverständigenrats bedienen. Zudem ist die Funktionsfähigkeit des Algorithmus laufend zu überwachen. Gerade das stellt den Geschäftsleiter jedoch vor ein technologiespezifisches Problem: Ist die Überwachung einer KI überhaupt möglich?

Problematisch ist die Überwachung einer KI deshalb, weil ihr Output nicht erklärbar ist. Sie wird deswegen auch als Blackbox bezeichnet. Das Ergebnis ist bekannt, es ist aber objektiv unmöglich nachzuvollziehen, wie es zustande gekommen ist. Es ist jedoch nicht notwendig, den Entscheidungsprozess des Algorithmus nachzuvollziehen, um sein Ergebnis zu plausibilisieren. So kann das Ergebnis mit anderen Erkenntnissen abgeglichen werden. Zudem ist auch der Entscheidungsprozess von Menschen nicht offen einsehbar, nach Erkenntnissen der Psychologie in vielen Fällen sogar nicht einmal für den Betroffenen selbst. Dennoch ist eine Delegation auf Mitarbeiter grundsätzlich möglich. Es liegt daher nahe zu akzeptieren, dass sich auch die Entscheidungsprozesse einer KI rückblickend nicht erklären lassen.

Haftung bei Verzicht auf die Anwendung von KI

Beim Verzicht auf KI in der Unternehmensleitung haben Geschäftsleiter bei der unternehmerischen Entscheidung, ob und auf welche Weise sie eine KI einsetzen, einen breiten Ermessensspielraum. Um in den Genuss der Business Judgment Rule zu kommen, müssen sie allerdings ihre Entscheidung auf der Grundlage angemessener Informationen treffen. Geschäftsleiter sollten also einen Blick auf die weitere Entwicklung dieser Technologie haben. Sollte sich in Zukunft die Anwendung von KI in bestimmten Bereichen und bei bestimmten Entscheidungen als Standard etablieren, könnte es im Hinblick auf das Ob des Einsatzes zudem zu einer Ermessensreduktion auf null kommen und der Einsatz von KI daher geboten sein.

Der Verzicht auf die Anwendung von KI kann nicht nur mit Blick auf die Sorgfaltspflicht des Geschäftsleiters rechtliche Relevanz entfalten, sondern auch bezüglich der Wissenszurechnung im Unternehmen. Es besteht unter bestimmten Voraussetzungen eine Pflicht zur Weiterleitung und Abfrage von Informationen, bei deren Verletzung die Kenntnis fingiert wird. Künstliche Intelligenz verspricht, große Mengen an Informationen auswerten zu können. Beim Verzicht auf ihre Anwendung könnte daher womöglich die Kenntnis dieses Wissens im Unternehmen fingiert werden. Das scheint aber noch Zukunftsmusik zu sein, da die Anwendung von KI in der Unternehmensleitung derzeit nicht state of the art ist.

Fazit

Sowohl die Anwendung als auch der Verzicht auf KI in der Unternehmensleitung werfen rechtliche Fragen auf. Auf manche gibt es bereits Antworten, für andere Lösungsansätze. Es liegt an Rechtsberatern, Unternehmensjuristen und Wissenschaftlern, die Lösungsansätze gemeinsam im Dialog fortzuentwickeln, um das Potenzial von KI für die Unternehmensleitung in Zukunft ausschöpfen zu können.