Détection de tirs Flock : le PDG et le site se contredisent

Le PDG de Flock, Garrett Langley, résume simplement ce qu'écoutent les micros de son entreprise : les coups de feu, et rien d'autre. Le site de Flock, lui, décrit quelque chose de plus large. Ce décalage est apparu au grand jour cette semaine lors de TechCrunch Disrupt, où Langley a défendu son produit sur scène pendant que des manifestants se rassemblaient devant le lieu de l'événement à San Francisco.

L'enjeu dépasse cette seule entreprise. L'échange montre à quel point il est difficile de savoir ce que fait réellement un système de captation permanente quand ceux qui le vendent le présentent différemment selon leur public.

Ce que Langley a dit sur scène

Flock est une entreprise de surveillance surtout connue pour ses caméras de lecture de plaques d'immatriculation. Son produit audio, baptisé Gunshot Detection, s'appuie sur des micros installés dans les quartiers pour repérer les coups de feu et d'autres sons ambiants. L'objectif affiché : offrir aux services de sécurité publique une "connaissance plus précoce" des incidents.

Face à Connie Loizos, rédactrice en chef de TechCrunch, Langley a expliqué la logique du produit. "La plupart des gens n'appellent pas le 911 quand ils entendent un coup de feu, et c'est pour ça que nous avons conçu ce produit", a-t-il déclaré.

Il a ensuite raconté comment le périmètre s'était brièvement élargi. Certains clients, qui avaient fait installer les micros sur des parkings, ont demandé s'ils pouvaient aussi être alertés en cas d'enlèvement ou d'agression. L'idée semblait logique, selon Langley, et Flock a donc développé un prototype qu'elle a testé avec quelques clients. Des inquiétudes ont suivi. Langley a reconnu que l'entreprise avait commis des erreurs, mais assure qu'elle a su écouter.

"Il n'y avait que quelques clients qui testaient le prototype avec nous, et on s'est dit : 'OK, très bien, ça ne détectera que les coups de feu, point final'", a-t-il expliqué. Si une arme tire, le système envoie une alerte. Sinon, selon ses mots, "c'est tout ce qu'il va écouter".

Quand on lui a fait remarquer que la communication de Flock promettait davantage, sa réponse a été brève : "Ce sont juste les coups de feu."

Ce que dit le site

Les pages produit de Flock racontent une autre histoire. Elles affirment que les systèmes audio peuvent localiser instantanément les tirs, mais aussi "détecter tôt les rodéos urbains pour stopper le chaos avant qu'il ne dégénère" et "identifier les accidents graves en temps réel pour que les secours arrivent plus vite". Une autre ligne promet d'"étendre la vigilance au-delà des coups de feu avec des alertes pour les accidents de voiture, les feux d'artifice et les sideshows". Aux États-Unis, les termes "sideshows" et "street takeovers" désignent des rassemblements automobiles sauvages qui occupent la voie publique.

La FAQ va plus loin. Elle indique qu'"en plus des coups de feu, Flock Gunshot and Audio Detection peut détecter les feux d'artifice, les sideshows et d'autres événements perturbateurs pour la collectivité". Elle précise aussi que la "bibliothèque de détection" de l'entreprise "s'enrichit en permanence pour inclure de nouvelles menaces pertinentes" au regard des besoins de chaque client.

Après l'événement, Paris Lewbel, porte-parole de Flock, a apporté une précision. La technologie, selon Lewbel, "sert principalement à détecter les coups de feu, mais est également capable de détecter les feux d'artifice, les sideshows et d'éventuels accidents de voiture". D'après le porte-parole, Langley voulait souligner que l'Audio Detection de Flock "n'est pas conçue pour surveiller les conversations ni analyser la parole, et ne détecte pas actuellement les cris ou la détresse humaine".

L'épisode des "cris"

Ce dernier point renvoie à une polémique antérieure. Lorsque Flock a annoncé Gunshot Detection l'an dernier, l'entreprise indiquait que le système écouterait les "cris". Les associations de défense de la vie privée se sont opposées à un produit à l'écoute des voix humaines. Flock a alors remplacé ce terme sur son site par "sons de détresse humaine", avant d'annoncer qu'elle avait entièrement retiré la fonction de détection de détresse chez les clients qui l'avaient testée.

Langley a présenté une grande partie des critiques comme de la désinformation, estimant que les détracteurs comprennent souvent mal le fonctionnement des produits Flock. Côté échelle, il a affirmé que le nombre de micros de Flock était comparable à celui de ShotSpotter, le fournisseur de détection de tirs le plus connu, qui en comptait environ 25 000 en 2024, selon Wired.

Une contestation qui s'amplifie

Cet entretien intervient alors que l'opinion publique se retourne contre Flock et les autres entreprises de lecture de plaques. Des défenseurs de la vie privée, dont l'ACLU, ont alerté sur les risques d'abus, et certains citoyens sont allés jusqu'à détruire des caméras de l'entreprise. Le Texas et la Floride ont engagé des démarches pour mettre fin à leurs relations avec Flock, et Ring, filiale d'Amazon, a rompu son partenariat avec la société. Ce même malaise face à des technologies qui évoluent vite se retrouve dans les sondages, comme une enquête selon laquelle la plupart des Américains veulent que l'IA ralentisse.

Notre analyse

Le fond du problème n'est pas de savoir si les micros de Flock peuvent entendre des feux d'artifice. C'est que le PDG, le porte-parole et le site décrivent le périmètre du produit de trois façons différentes. Pour un système installé dans l'espace public et qui écoute en continu, la définition de ce qu'il détecte est la principale garantie dont dispose le public. Si cette définition varie selon l'interlocuteur, la confiance s'effrite vite.

C'est l'expression de bibliothèque de détection qui "s'enrichit en permanence" qui mérite le plus d'attention. Elle laisse entendre que les capacités du matériel déjà déployé peuvent évoluer par simple mise à jour logicielle, sans nouveaux micros ni annonce publique visible. L'épisode des cris a montré à quelle vitesse une fonction peut être prototypée avec des clients avant que le regard extérieur ne la rattrape.

Cela s'inscrit dans une tendance plus large où les outils assistés par IA utilisés par la police soulèvent des questions de fiabilité et de contrôle, comme lorsqu'un modèle d'IA a envoyé un faux signalement de meurtre à la police. Reste à voir si Flock publiera une liste fixe et publique des catégories de sons détectés, et si d'autres États ou partenaires suivront le Texas, la Floride et Ring en prenant leurs distances.