Aansprakelijkheid AI-agents: verzekeraars vrezen miljoenen

AI-agents verhuizen van demo's naar echte systemen. Een deel ervan richt nu al echte schade aan. De verzekeringsbranche bereidt zich voor op wat er komt: claims die in de miljoenen dollars kunnen lopen, en rechtszaken die mogelijk tot aan de mensen aan het hoofd van de AI-labs reiken.

Volgens een bericht van de Financial Times gaat het gesprek inmiddels ook over de persoonlijke aansprakelijkheid van topbestuurders als Sam Altman van OpenAI en Dario Amodei van Anthropic.

Van softwarefout tot bestuursrisico

Wat is er veranderd? Concrete incidenten. Het bericht noemt de hack van AI-platform Hugging Face door agents van OpenAI als een van de zaken die verzekeraars dwingen hun risico's opnieuw te bekijken. Dit was geen chatbot die een verkeerd antwoord gaf. Autonome software ondernam acties tegen de systemen van een derde partij.

Tim Rayner, hoofd acceptatie en schadebehandeling bij Verisk, legt de verantwoordelijkheid bij de top. Volgens hem ligt die uiteindelijk bij de CEO. Iedere bestuurder heeft de plicht om te zorgen voor goed toezicht, en de komst van AI verandert niets aan die plicht.

Hier komt een specifiek soort polis in beeld. De bestuurdersaansprakelijkheidsverzekering, meestal afgekort tot D&O, beschermt bestuurders wanneer ze persoonlijk worden aangeklaagd voor beslissingen die ze in hun functie hebben genomen. Als OpenAI zo'n polis heeft, zou die de kosten kunnen dekken van rechtszaken die op Altman zelf zijn gericht.

300 zaken, geen precedent

Verzekeringsmakelaar Aon heeft meer dan 300 rechtszaken rond AI doorgenomen. Uit die analyse blijkt dat de risico's schuilgaan in verschillende bestaande soorten polissen:

1. Cyberverzekeringen, die in beeld kunnen komen wanneer agents systemen binnendringen of verstoren.
2. Polissen voor intellectueel eigendom, relevant bij geschillen over trainingsdata en gegenereerde content.
3. Polissen voor technologisch falen, die producten dekken die niet doen wat er beloofd is.

Het probleem is dat nog niemand weet hoe deze risico's in de rechtszaal zullen uitpakken. Er is geen jurisprudentie over de aansprakelijkheid van AI-agents om op terug te vallen. Aki Hussain, CEO van verzekeraar Hiscox, zegt dat het te vroeg is om te zeggen hoe Amerikaanse rechtbanken met deze zaken zullen omgaan.

Advocaten zoeken al naar voorbeelden. Aaron Le Marquer, advocaat bij het kantoor Stewarts, verwacht dat toekomstige rechtszaken het patroon van milieu- en tabaksprocessen zullen volgen. Dat waren lange, dure juridische gevechten waarin complete industrieen aansprakelijk werden gesteld voor schade waarvan ze volgens de aanklagers op de hoogte waren.

Het geld is nu al echt

De financiele belangen zijn niet hypothetisch. Anthropic stemde in juli in met een schikking van 1,5 miljard dollar in een auteursrechtzaak. Het bedrijf waarschuwt in zijn beursprospectus bovendien voor "existentiele risico's voor de mensheid", een document dat zware verliezen naast snelle groei laat zien.

Waarom dit belangrijk is

Voor lezers die agentsystemen bouwen of aanschaffen, wijst dit erop dat het gesprek over risico's verschuift van engineers naar juristen en verzekeraars. Als verzekeraars een prijs op een risico gaan plakken, betekent dat meestal dat ze verliezen waarschijnlijk achten, niet alleen mogelijk.

Het past ook in een breder patroon. Incidenten met agents stapelen zich op, van de hack bij Hugging Face tot zaken als de excuses van OpenAI aan Australie voor inbreuken door agents. Elk incident vult het dossier aan waarnaar toekomstige eisers kunnen verwijzen.

De vergelijking met de tabaksindustrie verdient serieuze aandacht. In die zaken draaide het vaak om wat bedrijven wisten en wanneer. AI-labs die publiekelijk waarschuwen voor ernstige risico's, zoals Anthropic in zijn prospectus doet, kunnen die waarschuwingen in de rechtszaal weleens voorgelegd krijgen.

Het is de moeite waard om in de gaten te houden of verzekeraars specifieke maatregelen gaan eisen als voorwaarde voor dekking, zoals strikte bevoegdheden of menselijke goedkeuring voor acties met grote impact. Dat zou de manier waarop agents worden ingezet sneller kunnen bepalen dan welke regelgeving ook.