Flock-schotdetectie: CEO en website vertellen iets anders

Flock-CEO Garrett Langley omschrijft eenvoudig waar de microfoons van zijn bedrijf naar luisteren: schoten, en verder niets. Op Flocks eigen website staat iets ruimers. Die tegenstelling kwam deze week aan het licht op TechCrunch Disrupt, waar Langley het product op het podium verdedigde terwijl buiten de locatie in San Francisco demonstranten bijeenkwamen.

Het gesprek is belangrijker dan voor dit ene bedrijf alleen. Het laat zien hoe moeilijk het is vast te stellen wat een systeem dat altijd meeluistert eigenlijk doet, als de verkopers het per publiek anders omschrijven.

Wat Langley op het podium zei

Flock is een surveillancebedrijf dat vooral bekend is van camera's die kentekens uitlezen. Het audioproduct, Gunshot Detection, werkt met microfoons verspreid over woonwijken die geweerschoten en andere omgevingsgeluiden opvangen. Het doel is volgens het bedrijf om hulpdiensten "eerder bewust" te maken van incidenten.

In gesprek met TechCrunch-hoofdredacteur Connie Loizos legde Langley uit waarom het product er is. "De meeste mensen bellen geen 911 als ze een schot horen, en daarom hebben we het product gebouwd", zei hij.

Daarna vertelde hij hoe de reikwijdte tijdelijk werd uitgebreid. Sommige klanten hadden de microfoons op parkeerplaatsen laten installeren en vroegen of ze ook een melding konden krijgen als iemand werd ontvoerd of mishandeld. Langley vond dat een logisch idee, dus bouwde Flock een prototype en testte dat bij een paar klanten. Daarna kwamen de zorgen. Langley gaf toe dat het bedrijf fouten had gemaakt, maar zei dat het had geluisterd.

"Er waren maar een paar klanten die het samen met ons als prototype testten, en we zeiden: 'Oké, prima, het gaat alleen om schoten, zo simpel is het'", zei hij. Gaat er een wapen af, dan geeft het systeem een melding. Verder, in zijn woorden, "is dat het enige waar het naar zal luisteren".

Toen hem werd voorgehouden dat Flocks marketing meer belooft, was zijn antwoord kort: "Het zijn alleen schoten."

Wat er op de website staat

Op Flocks productpagina's staat een ander verhaal. Daar staat dat de audiosystemen schoten direct kunnen lokaliseren, maar ook "street takeovers vroeg opmerken om chaos te stoppen voordat die escaleert" en "ernstige ongelukken in realtime herkennen zodat hulp sneller ter plaatse is". Een andere zin belooft "het bewustzijn te vergroten tot voorbij geweerschoten, met meldingen voor auto-ongelukken, vuurwerk en sideshows". Sideshows en street takeovers zijn Amerikaanse termen voor informele autobijeenkomsten waarbij de openbare weg wordt bezet.

De veelgestelde vragen gaan nog verder. Daar staat dat "Flock Gunshot and Audio Detection naast schoten ook vuurwerk, sideshows en andere storende gebeurtenissen in de buurt kan detecteren". Ook staat er dat de "detectiebibliotheek van het bedrijf voortdurend wordt uitgebreid met nieuwe dreigingen die relevant zijn" voor wat individuele klanten nodig hebben.

Na het evenement gaf Flock-woordvoerder Paris Lewbel een toelichting. De technologie "wordt in de eerste plaats gebruikt om geweerschoten te detecteren, maar kan ook vuurwerk, sideshows en mogelijke auto-ongelukken detecteren", aldus Lewbel. Volgens de woordvoerder wilde Langley benadrukken dat Flocks Audio Detection "niet is ontworpen om gesprekken af te luisteren of spraak te analyseren en momenteel geen menselijk geschreeuw of noodsituaties detecteert".

De kwestie rond "geschreeuw"

Dat laatste punt verwijst naar een eerdere controverse. Toen Flock vorig jaar Gunshot Detection aankondigde, zei het bedrijf dat het systeem zou luisteren naar "geschreeuw". Privacyorganisaties maakten bezwaar tegen een product dat naar menselijke stemmen luisterde. Flock veranderde de tekst op zijn website in "geluiden van menselijke nood" en zei later dat de functie voor het detecteren van noodsituaties volledig was verwijderd bij de klanten die haar hadden uitgeprobeerd.

Langley zette veel van de kritiek weg als desinformatie en stelde dat critici vaak niet begrijpen hoe Flocks producten werken. Over de omvang zei hij dat Flock ongeveer evenveel microfoons heeft als ShotSpotter, de bekendste aanbieder van schotdetectie, die volgens Wired in 2024 zo'n 25.000 microfoons had.

Groeiend verzet

Het interview komt op een moment dat de publieke opinie zich keert tegen Flock en andere bedrijven met kentekenlezers. Privacyvoorvechters, onder wie de ACLU, uiten hun zorgen over misbruik, en sommige burgers zijn zelfs zo ver gegaan dat ze camera's van het bedrijf hebben vernield. Texas en Florida willen hun samenwerking met Flock beëindigen, en Ring van Amazon heeft zijn partnerschap met het bedrijf stopgezet. Vergelijkbaar onbehagen over snel ontwikkelende technologie blijkt ook uit peilingen, zoals een onderzoek waaruit bleek dat de meeste Amerikanen willen dat AI het tempo verlaagt.

Onze kijk

De kern van de zaak is niet of Flocks microfoons vuurwerk kunnen horen. Het gaat erom dat de CEO, de woordvoerder en de website de reikwijdte van het product op drie verschillende manieren omschrijven. Bij een systeem dat in de openbare ruimte hangt en continu meeluistert, is de omschrijving van wat het detecteert de belangrijkste waarborg die het publiek heeft. Als die omschrijving verschuift afhankelijk van wie er aan het woord is, brokkelt het vertrouwen snel af.

De formulering over een "voortdurend uitgebreide" detectiebibliotheek verdient de meeste aandacht. Die suggereert dat de mogelijkheden van al geplaatste apparatuur via software-updates kunnen veranderen, zonder nieuwe microfoons of duidelijke publieke aankondiging. De kwestie rond geschreeuw liet zien hoe snel een functie bij klanten als prototype kan worden getest voordat toezicht van buitenaf het bijhoudt.

Dit past in een breder patroon waarbij AI-ondersteunde hulpmiddelen bij de politie vragen oproepen over nauwkeurigheid en toezicht, zoals toen een AI-model een valse tip over een moord naar de politie stuurde. Het is de moeite waard om te volgen of Flock een vaste, openbare lijst publiceert van de geluidscategorieën die het detecteert, en of meer staten of partners het voorbeeld van Texas, Florida en Ring volgen en afstand nemen.