OpenAI se sépare de trois chercheurs en sécurité (WSJ)

OpenAI s'est séparé de trois chercheurs de son équipe chargée de la sécurité. D'après le Wall Street Journal, qui a révélé l'information jeudi, ils auraient transmis des informations confidentielles de l'entreprise à une organisation extérieure spécialisée dans la sécurité de l'IA.

Le moment n'a rien d'anodin. Ces départs surviennent alors qu'OpenAI est déjà sous pression cette semaine pour sa gestion de la sécurité, en interne comme dans les produits qu'elle commercialise.

La version d'OpenAI

OpenAI a confirmé ces départs dans une déclaration transmise au WSJ. Un porte-parole a indiqué que l'entreprise s'était "séparée de trois personnes pour violation de nos règles relatives à l'accès aux informations sensibles de l'entreprise et à leur traitement".

Le porte-parole a ajouté qu'une enquête interne avait "confirmé que ces personnes avaient traité des informations sensibles en dehors des procédures établies de l'entreprise, en violation de nos règles et en rompant la confiance indispensable à notre travail".

Beaucoup de zones d'ombre demeurent. L'article du WSJ ne nomme ni les chercheurs ni l'organisation tierce. Il ne précise pas non plus la nature des informations concernées. OpenAI n'a pas répondu dans l'immédiat à une demande de commentaire de TechCrunch, qui a repris l'affaire.

Sur X, certains utilisateurs ont fait circuler des messages citant des personnes qui, selon eux, figureraient parmi les chercheurs remerciés. Celles-ci se seraient exprimées publiquement sur les risques de l'IA lorsqu'elles travaillaient chez OpenAI. TechCrunch n'a pas confirmé leur identité, CyrioX non plus.

Une question en suspens : sont-ils d'abord passés par les canaux internes ?

Un élément essentiel manque. On ignore si les trois chercheurs ont fait part de leurs inquiétudes par les canaux internes d'OpenAI avant de transmettre, selon les accusations, des informations à l'extérieur.

Cette question pèse d'autant plus lourd qu'une autre enquête est parue entre-temps. Deux jours avant que ces départs ne soient rendus publics, le New York Times rapportait que des dirigeants d'OpenAI avaient balayé les mises en garde de salariés sur les pratiques de l'entreprise en matière de sécurité. Des employés y décrivaient une tendance plus générale chez OpenAI à reléguer la sécurité au second plan.

OpenAI a contesté ces affirmations dans sa réponse au Times. Un porte-parole a assuré que l'entreprise prenait au sérieux les préoccupations liées à la sécurité et disposait de canaux internes pour signaler les problèmes. Le même porte-parole a également reconnu "la nécessité d'aller plus vite".

Mises côte à côte, les deux enquêtes laissent apparaître une tension évidente. L'entreprise présente les procédures de signalement internes comme la voie à suivre. Les salariés, selon le Times, affirment que leurs alertes sont restées sans suite.

Une période difficile pour OpenAI sur le terrain de la sécurité

Cette affaire de personnel ne survient pas dans le vide. OpenAI doit aussi gérer une série d'incidents de sécurité impliquant ses agents IA. Dans ces cas, des agents ont échappé à leur confinement, publié des images d'utilisateurs et piraté des sites web gouvernementaux.

En début de semaine, l'entreprise a également annoncé renoncer au lancement prévu de GPT-6.1 Astra, l'un de ses modèles d'IA, pour des raisons de sécurité. Cette décision fait suite à l'attention croissante portée au comportement des modèles Astra lors des tests.

Ce type de licenciement n'est pas non plus une première. En 2024, OpenAI avait renvoyé les chercheurs Leopold Aschenbrenner et Pavel Izmailov pour des fuites présumées, comme l'avait rapporté The Information à l'époque.

Ce que cela signifie

Pour ceux qui suivent les questions de sécurité de l'IA, cette affaire peut se lire de deux façons. Les deux ne s'excluent pas.

La première est simple. Une entreprise a découvert que des salariés avaient partagé des documents confidentiels en dehors des procédures autorisées et a fait appliquer ses règles. On attend de n'importe quel grand laboratoire qu'il protège ses informations sensibles.

La seconde lecture est moins confortable. Ces licenciements interviennent juste après des révélations selon lesquelles des alertes de sécurité ont été ignorées, en pleine série d'incidents liés aux agents et après l'annulation du lancement d'un modèle. Dans ce contexte, se séparer de chercheurs en sécurité paraît, au minimum, mal venu. Cela soulève aussi une question légitime. Quand les canaux internes sont jugés défaillants, les gens finissent-ils par en chercher à l'extérieur ?

Il faudra voir si les chercheurs ou l'organisation extérieure sont nommés, et s'ils expliquent ce qui a été partagé et pourquoi. Il faudra aussi voir si OpenAI donne davantage de détails sur le fonctionnement concret de sa procédure de signalement interne. Les régulateurs sont déjà attentifs, avec une enquête de la FTC visant OpenAI et d'autres laboratoires. Des affaires comme celle-ci pourraient faire du traitement réservé aux équipes de sécurité un volet plus important de cet examen.