KI und Recht
Ist künstliche Intelligenz (KI oder AI) the next „Big Thing“, nur Buzzword oder doch eine Herausforderung an die Wirtschaft und vor allem den Mittelstand? Künstliche Intelligenz ist nach einer Studie „Relevanz von künstlicher Intelligenz für große Unternehmen“ der Berater Lünendonk & Hossenfelder und Lufthansa Industry Solutions jedenfalls in den Vorstandsetagen angekommen und wird dort als „das Top Thema“ angesehen. Angesichts der Auswirkungen auf das Zusammenspiel von Unternehmen mit ihren Kunden und auch auf die Art und Weise, wie Verträge zustande kommen und Aufträge abgearbeitet werden, wird man sich eine zögerliche Herangehensweise nicht leisten können.
Hauptanwendungsbereich wird von den Entscheidern neben der Automation der Fertigung dabei im Bereich der Kundenkommunikation gesehen. Durch KI sollen Kosten reduziert werden, Routinearbeiten erleichtert und Fachprozesse beschleunigt werden. Nur etwa ein Drittel der Entscheider sieht aber KI als Werkzeug für die bessere Entscheidungsfindung und Analyse bzw. Prognose oder Verbesserung der Qualität der Kundenkommunikation an. Bei der Kundenkommunikation denkt man eher an Chatbots oder Hotlines. Dies ist umso erstaunlicher, weil dies eben auch impliziert, dass rechtlich bindende Willenserklärungen dann von Maschinen gegenüber dem Kunden abgegeben werden, etwa ob ein Mangel vorliegt oder eine Kündigung zurückgewiesen wird.
Rechtlich bereitet dies insofern ein paar Schwierigkeiten, weil es dann auch auf Fragen wie Anfechtung einer Erklärung wegen Irrtums eines Chatbots oder Zugnag einer empfangsbedürftigen Willenserklärung gegenüber einer elektronischen Hotline ankommt.
Es fällt auf, dass bei der Diskussion um KI oft sämtliche durch Algorithmen optimierte Anwendungen zusammen geworfen werden und kaum noch nach den eigentlichen, damit verbundenen technischen Prozessen gefragt wird. Dies ist aber für eine juristische Einordnung wichtig, denn für die Frage, ob eine KI-gestützte Entscheidung dem Geschäftsherrn zurechenbar ist, kommt es eben auch auf den ursprünglich gewollten Einsatz der Technolgie an. Im Bereich automatisierter Nachbestellung durch eine moderne Fertigungsstraße wird sich ein Unternehmen gegenüber einem Lieferanten nicht auf Fehlbestellungen berufen können, wenn zuvor der automatische, kritische Bestellzeitpunkt dem System überlassen wurde. Bei derartigen Fertigungssystemen ist es ja gerade typisch, dass der Mensch die Handlungsalternativen vorgibt, und somit er auch als Zuordnungssubjekt u. a. für die Haftung als auch für rechtlich bindende Erklärungen anzusehen ist.
Juristisches Neuland kommt erst dann auf, wenn sich durch intelligente maschinelle Analyse von Big Data die autonome Entscheidung durch KI soweit vom ursprünglichen Willen des Menschen entfernt, dass eine Zurechnung nicht mehr so einfach möglich ist. Wenn zum Beispiel durch künstliche Intelligenz bei der Fertigung die Einstellung an den Bremsen eines Fahrzeuges verändert würden, um Verschleiß und Umweltkriterien zu verbessern, dies aber zu einer leichten Verlängerung des Bremsweges führen würde. Ist das Unternehmen dann für mögliche Schäden verantwortlich auch wenn technische Vorschriften eingehalten wurden? Viel zu oft wird in Deutschland dabei das Thema KI auf „Moral und Ethik“ reduziert.
Es kann jedoch kein Zweifel geben, dass derjenige, der Prozesse in seinem Unternehmen in die Hände von KI begibt, hierfür haften muss. Es ist nicht ersichtlich, warum KI anders behandelt werden soll als unzuverlässige Mitarbeiter, auch hier haftet das Unternehmen für riskante Alleingänge. KI muss aus Sicht der Unternehmen damit beherrschbar bleiben.
Die Ministerien für Wirtschaft, Forschung und Arbeit haben bereits im Sommer ein gemeinsames Eckpunktepapier für eine nationale KI-Strategie erarbeitet, wonach Deutschland zu einem führenden KI-Standort werden soll. Soweit ersichtlich will dies jede Industrienation der Welt. Nach dem Willen der Bundesregierung soll dabei ein besonderer Augenmerk darauf liegen, die Allgemeinheit „für die rechtlichen Grenzen der Nutzung künstlicher Intelligenz zu sensibilisieren und zu prüfen, ob der Ordnungsrahmen für ein hohes Maß an Rechtssicherheit weiterentwickelt werden muss“. Andere Länder wie China sind da schon sehr viel weiter und haben in ihren Positionspapieren bereits konkrete Schritte aufgenommen. Auch im Unternehmen wird man sich nicht mit Absichtserklärungen begnügen können sondern sich mit Themen wie Smart Contracts, Blockchain und Datenschutz beim Einsatz von KI beschäftigen müssen.
