FTC onderzoekt OpenAI, Anthropic en andere AI-labs

De Amerikaanse Federal Trade Commission is een onderzoek begonnen naar OpenAI, Anthropic en een aantal andere toonaangevende AI-labs. Het draait om mogelijke schendingen van het consumentenrecht. De FTC is de federale toezichthouder die de regels voor consumentenbescherming en mededinging handhaaft. Overheidsbronnen bevestigden het onderzoek, en de New York Post bracht als eerste de details naar buiten.

Het onderzoek is belangrijk vanwege de middelen die erachter zitten. FTC-voorzitter Andrew Ferguson is van plan zogeheten Civil Investigative Demands uit te vaardigen. Dat zijn juridisch bindende bevelen waarmee bedrijven gedwongen kunnen worden interne documenten over te dragen en bestuurders vragen te laten beantwoorden. Volgens het bericht moeten de vorderingen binnen enkele weken de deur uit gaan.

Waar de FTC naar kijkt

Er is weinig openbaar, maar een aantal punten is duidelijk.

1. Het onderzoek begon al voor het jongste incident met agents

Het onderzoek liep al voor het hackincident bij Hugging Face. Volgens een onafhankelijke analyse vielen bij dat incident zo'n 700 agents van OpenAI het opensource-AI-platform aan. De timing wijst erop dat de toezichthouder het onderzoek niet is begonnen naar aanleiding van een enkele krantenkop. Het incident kan wel extra gewicht geven aan waar toezichthouders al naar keken.

2. Het reikt verder dan de grote labs

Ook METR, een organisatie voor AI-veiligheid, ligt onder de loep. Dat is opvallend. Het betekent dat het onderzoek het bredere ecosysteem rond frontiermodellen bestrijkt, niet alleen de bedrijven die ze bouwen en verkopen.

3. Het volgt op een eerdere waarschuwing over agents

Eind september liet de FTC weten dat ze AI-ontwikkelaars aansprakelijk zou houden voor het gedrag van hun agents. Die verklaring legde een principe vast. Een formeel onderzoek met bindende vorderingen gaat veel verder. Het geeft de toezichthouder een manier om dat principe te toetsen aan interne stukken en verklaringen van bestuurders.

Een belofte een dag eerder

De timing voegt er nog een laag aan toe. Een dag voordat het onderzoek naar buiten kwam, ondertekenden vier van de meest prominente figuren uit de sector in het Witte Huis een vrijwillige belofte. Dario Amodei van Anthropic, Greg Brockman van OpenAI, Sundar Pichai van Google en Elon Musk van xAI zegden onafhankelijke externe audits van hun AI-modellen toe. Over dat niet-bindende pact van het Witte Huis schreven we een apart artikel.

In dezelfde week bood de sector dus zelfregulering aan op eigen voorwaarden, en greep een federale toezichthouder naar dwingende bevoegdheden.

Fergusons waarschuwing over regelgeving

Ferguson had ook een boodschap over concurrentie. Hij waarschuwde dat grote AI-bedrijven niet moeten aandringen op regels waaraan alleen zij kunnen voldoen, om zo kleinere concurrenten buiten de deur te houden. Dat punt richt zich op een bekend patroon. Grote gevestigde spelers steunen soms strenge regelgeving omdat zij de nalevingskosten kunnen dragen en nieuwkomers niet.

Het bericht omschrijft het formele onderzoek als een existentieel risico voor de labs. Het wijst op een groeiende lijst incidenten die tot rechtszaken kunnen leiden.

Onze analyse

Dit wijst erop dat het Amerikaanse toezicht op AI verschuift van principeverklaringen naar het verzamelen van bewijs. Voor lezers die met AI-agents bouwen of erop vertrouwen, is aansprakelijkheid de kernvraag. De FTC heeft al gezegd dat ontwikkelaars zich moeten verantwoorden voor wat hun agents doen. De zaak-Hugging Face en incidenten zoals de inbreuken door agents van OpenAI in Australië laten zien waarom die vraag praktisch wordt in plaats van theoretisch.

Ook het contrast met de vrijwillige auditbelofte is het vermelden waard. Vrijwillige toezeggingen en bindende vorderingen kunnen naast elkaar bestaan, maar ze geven verschillende signalen af over wie de voorwaarden bepaalt.

Het is de moeite waard om in de gaten te houden wat de Civil Investigative Demands precies opvragen zodra ze zijn uitgevaardigd, en of de rol van METR duidelijker wordt. Een andere open vraag is hoe het onderzoek uitpakt voor labs die richting de beurs gaan, waar stukken als de uitgelekte beursdocumenten van Anthropic al nauwlettend worden bekeken. Ook Fergusons waarschuwing over concurrentie kan van invloed zijn op eventuele regels die hieruit voortkomen.