Google pausa sus recompensas por fallos ante informes de IA
Google ha suspendido temporalmente uno de sus programas de recompensas de seguridad. La compañía asegura que buena parte de los informes que recibe ahora están generados por máquinas, y que la mayoría son erróneos.
Se trata del Open Source Software Vulnerability Rewards Program de Google. Gracias a él, investigadores externos podían cobrar por encontrar fallos de seguridad en el software de código abierto que mantiene Google. Desde el 1 de octubre, no se admiten nuevos envíos. Google afirma que compartirá "una actualización" en el primer trimestre de 2027, así que, en la práctica, el programa queda desactivado hasta el año que viene.
Qué ha dicho Google
Google anunció la pausa en publicaciones en X y en la propia web del programa. La explicación fue breve:
"Esta pausa se debe a un aumento significativo de los envíos automatizados, la inmensa mayoría de los cuales no son válidos", señaló la compañía.
Google no precisó cuántos informes recibió ni qué proporción no era válida. Tampoco dijo que todos los informes automatizados procedieran de un sistema de IA. Aun así, la tendencia está clara. El volumen de envíos aumentó, la calidad bajó y las personas encargadas de revisarlos no daban abasto.
Según Tom's Hardware, los ingenieros de Google y los responsables de proyectos de código abierto se vieron desbordados por informes que no eran válidos o que contenían alucinaciones. En el ámbito de la IA, una alucinación es un contenido que un modelo presenta como un hecho pero que es inventado. En un informe de vulnerabilidades, eso puede traducirse en una función que no existe, una ruta de código que nunca se ejecuta o un exploit que no puede funcionar.
Por ahora, Google remite a los investigadores a sus otros programas de recompensas por fallos, que siguen abiertos.
Cómo funcionan los programas de recompensas por fallos y por qué importa el volumen
Un programa de recompensas por fallos paga a personas externas para que encuentren problemas de seguridad antes que los atacantes. El modelo se basa en un intercambio sencillo. Los investigadores dedican tiempo a buscar fallos. La empresa dedica tiempo a comprobar lo que encuentran. Los hallazgos válidos se pagan y se corrigen.
Ese intercambio solo funciona si quien revisa puede asumir la carga. Cada informe tiene que leerlo, reproducirlo y evaluarlo alguien que conozca bien el código. Un buen informe le ahorra tiempo al fabricante. Uno malo le cuesta tiempo, y uno malo pero convincente es el que más cuesta, porque descartarlo lleva más tiempo.
El código abierto añade otra capa. Muchos informes acaban en manos de los mantenedores, los desarrolladores responsables de que un proyecto siga funcionando. Su tiempo es limitado, y un informe no válido que parece verosímil los aparta de las correcciones de verdad.
Una advertencia que se ha cumplido
Este problema no ha llegado sin avisar. El año pasado, TechCrunch informó de que los expertos en ciberseguridad advertían de que el "AI slop" - contenido de baja calidad producido en masa con herramientas de IA - suponía un riesgo serio para los programas de recompensas por fallos. La preocupación era que la generación barata permitiera enviar grandes cantidades de informes con la esperanza de que alguno saliera premiado, mientras los revisores cargaban con el coste.
La pausa de Google es un ejemplo concreto de esa advertencia materializándose en una gran empresa. También llama la atención que Google haya optado por detener el programa en lugar de simplemente filtrar con más rigor. Eso sugiere que filtrar con el volumen actual no era viable, al menos no a corto plazo.
El extraño papel de la IA en la seguridad
Aquí hay una contradicción. Las herramientas de IA son cada vez mejores en el trabajo de seguridad real, y algunos modelos ya muestran buenos resultados a la hora de crear exploits que funcionan. La propia Google está invirtiendo en IA para ciberdefensa. En este caso, el problema no es la capacidad. El problema es lo que ocurre cuando alguien apunta estas herramientas a un sistema de recompensas sin revisar lo que producen.
Un modelo puede redactar en segundos un informe que parece obra de un experto. Confirmar si lo que dice es cierto sigue requiriendo a una persona con contexto. Cuando el coste de producir un informe se acerca a cero pero el de revisarlo no, quien revisa sale perdiendo.
El panorama general
Todo apunta a que esto forma parte de una tendencia más amplia: los sistemas abiertos que se basaban en la buena fe se están cerrando o restringiendo a medida que crece el tráfico automatizado. La decisión de Reddit de acabar con los feeds RSS y su API pública por culpa de los scrapers de IA es un caso distinto, pero la lógica es parecida. Cuando la IA abarata el abuso, cuesta más mantener la puerta abierta.
Para los investigadores, la lección es práctica. Los resultados de IA sin verificar no solo se quedan sin recompensa. Pueden hacer que se cierre un programa para todos, incluidos quienes trabajan con rigor.
Conviene estar atentos a lo que anuncie Google a principios de 2027. Entre las posibles respuestas figuran normas de envío más estrictas, la exigencia de presentar una prueba de concepto que funcione o límites sobre quién puede participar. Si otros fabricantes siguen su ejemplo con pausas similares, se verá si se trata de un problema de Google o de un problema estructural de los programas de recompensas por fallos en su conjunto. La gran incógnita es si estos programas podrán adaptar su proceso de revisión con la rapidez suficiente o si algunos seguirán cerrados.