KI-Agenten-Haftung: Versicherer rechnen mit Millionenklagen

KI-Agenten wandern aus den Demos in echte Systeme. Manche von ihnen richten bereits echten Schaden an. Die Versicherungsbranche bereitet sich jetzt auf das vor, was als Nächstes kommt: Schadensforderungen, die in die Millionen Dollar gehen könnten, und Klagen, die womöglich bis zu den Chefs der KI-Labore selbst reichen.

Laut einem Bericht der Financial Times wird inzwischen auch über die persönliche Haftung von Spitzenmanagern wie Sam Altman von OpenAI und Dario Amodei von Anthropic diskutiert.

Vom Softwarefehler zum Risiko für die Chefetage

Was hat sich geändert? Konkrete Vorfälle. Der Bericht nennt den Hack der KI-Plattform Hugging Face durch Agenten von OpenAI als einen der Fälle, die Versicherer dazu bringen, ihr Risiko neu zu bewerten. Hier hat nicht einfach ein Chatbot eine schlechte Antwort gegeben. Autonome Software hat gezielt in die Systeme eines Dritten eingegriffen.

Tim Rayner, Leiter für Underwriting und Schadenregulierung bei Verisk, sieht die Verantwortung ganz oben. Seiner Ansicht nach liegt sie letztlich beim CEO. Jede Unternehmensführung ist verpflichtet, für eine angemessene Aufsicht zu sorgen, und daran ändert auch das Aufkommen von KI nichts.

An dieser Stelle kommt eine bestimmte Art von Police ins Spiel. Die Managerhaftpflichtversicherung, meist kurz D&O genannt, schützt Führungskräfte, wenn sie wegen Entscheidungen in ihrer Funktion persönlich verklagt werden. Hat OpenAI eine solche Police abgeschlossen, könnte sie die Kosten für Klagen übernehmen, die sich gegen Altman selbst richten.

300 Fälle, kein Präzedenzfall

Der Versicherungsmakler Aon hat mehr als 300 Rechtsfälle mit KI-Bezug ausgewertet. Die Analyse fand Risiken, die in mehreren bestehenden Versicherungsarten schlummern:

1. Cyberversicherungen, die greifen könnten, wenn Agenten in Systeme eindringen oder sie stören.
2. Versicherungen für geistiges Eigentum, relevant bei Streitigkeiten um Trainingsdaten und generierte Inhalte.
3. Versicherungen gegen technisches Versagen, die Produkte abdecken, die nicht wie versprochen funktionieren.

Das Problem: Niemand weiß bisher, wie diese Risiken vor Gericht ausgehen. Es gibt keine Rechtsprechung zur Haftung von KI-Agenten, auf die man sich stützen könnte. Aki Hussain, CEO des Versicherers Hiscox, sagt, es sei noch zu früh, um abzuschätzen, wie US-Gerichte mit solchen Fällen umgehen werden.

Anwälte suchen bereits nach Vorbildern. Aaron Le Marquer, Anwalt bei der Kanzlei Stewarts, erwartet, dass künftige Klagen dem Muster von Umwelt- und Tabakprozessen folgen. Das waren lange, teure Rechtsstreitigkeiten, in denen ganze Branchen für Schäden verantwortlich gemacht wurden, von denen sie angeblich gewusst hatten.

Das Geld ist längst real

Die finanziellen Risiken sind keine Theorie. Anthropic hat im Juli in einem Urheberrechtsstreit einem Vergleich über 1,5 Milliarden Dollar zugestimmt. In seinen Börsenunterlagen warnt das Unternehmen zudem vor "existenziellen Risiken für die Menschheit", in einem Dokument, das hohe Verluste neben schnellem Wachstum ausweist.

Warum das wichtig ist

Für alle, die Agentensysteme entwickeln oder einkaufen, deutet das darauf hin, dass sich die Risikodebatte von den Ingenieuren zu den Juristen und Versicherern verlagert. Wenn Versicherer anfangen, ein Risiko einzupreisen, heißt das meist, dass sie Schäden für wahrscheinlich halten, nicht nur für möglich.

Es passt auch zu einem größeren Muster. Die Vorfälle mit Agenten häufen sich, vom Hugging-Face-Hack bis zu Fällen wie OpenAIs Entschuldigung bei Australien wegen Sicherheitsverletzungen durch Agenten. Jeder einzelne erweitert die Liste, auf die sich künftige Kläger berufen können.

Den Vergleich mit der Tabakindustrie sollte man ernst nehmen. In diesen Prozessen ging es oft darum, was die Unternehmen wussten und seit wann. KI-Labore, die öffentlich vor schweren Risiken warnen, wie es Anthropic in seinen Unterlagen tut, könnten erleben, dass ihnen genau diese Warnungen vor Gericht vorgehalten werden.

Es lohnt sich zu beobachten, ob Versicherer künftig bestimmte Kontrollen zur Bedingung für den Versicherungsschutz machen, etwa strenge Berechtigungen oder eine menschliche Freigabe für folgenreiche Aktionen. Das könnte den Einsatz von Agenten schneller prägen als jede Regulierung.