Bank of America pone a 4.000 a tapar fallos hallados por IA
Bank of America está destinando a miles de personas a limpiar lo que dejan a su paso unos modelos de IA que ya son muy buenos encontrando agujeros en el software. Según CNBC, el banco ha incorporado a 1.000 contratistas externos para reparar vulnerabilidades detectadas por sistemas como Mythos, de Anthropic. Esos contratistas trabajan junto a 3.000 empleados del propio banco, lo que eleva el total a unas 4.000 personas.
El consejero delegado, Brian Moynihan, explicó que este trabajo conjunto está en marcha desde el segundo trimestre. Con ello, Bank of America se convierte en una de las primeras grandes empresas estadounidenses en revelar públicamente cuánto personal ha dedicado a corregir fallos encontrados por la IA.
Lo que ha revelado el banco
Las cifras son parciales. Moynihan señaló que Bank of America gastó "unos cientos de millones de dólares" en el tercer trimestre. Esa cantidad cubre dos cosas: el trabajo de corrección del software y los requisitos del banco en materia de prevención del blanqueo de capitales. No dio una cifra aparte solo para los parches, así que desde fuera no se puede saber qué parte del gasto fue a corregir vulnerabilidades.
Lo que sí está claro es la dimensión de la plantilla implicada. Cuatro mil personas son una operación de gran calado, incluso para uno de los mayores bancos de Estados Unidos. Moynihan también hizo una previsión: espera que el coste de los parches baje con el tiempo. No dijo a qué ritmo ocurriría ni qué lo haría bajar.
De dónde salen las vulnerabilidades
El contexto es una oleada de lanzamientos de IA centrados en la seguridad por parte de los laboratorios punteros este año.
Mythos, de Anthropic. En abril, Anthropic puso Mythos solo a disposición de un grupo limitado de socios a través de una iniciativa llamada Project Glasswing. La compañía afirmó que el modelo había descubierto miles de vulnerabilidades de seguridad graves. Optó por un acceso restringido en lugar de un lanzamiento amplio al público.
Daybreak, de OpenAI. Un mes después, en mayo, OpenAI lanzó su propio programa de ciberseguridad, Daybreak.
Al principio, muchos críticos vieron estas advertencias y contramedidas como puro marketing. Los laboratorios aseguraban que sus modelos eran tan capaces de encontrar fallos que había que controlar el acceso, y algunos observadores lo interpretaron como un relato muy conveniente.
Desde entonces, esa visión ha perdido terreno. Dos novedades cambiaron el debate:
- Incidentes reales. Brechas de seguridad como el hackeo de Hugging Face hicieron que el riesgo fuera más difícil de despachar sin más.
- Pruebas independientes. Evaluaciones externas confirmaron que los nuevos modelos tienen de verdad más capacidades que los sistemas anteriores.
La revelación de Bank of America añade un tercer dato. Un banco sometido a una fuerte regulación no contrata a 1.000 personas externas para una operación de imagen.
El problema de los parches
El caso deja ver un hueco que preocupa desde hace tiempo a los equipos de seguridad. Encontrar una vulnerabilidad es solo el primer paso. Cada hallazgo hay que confirmarlo, clasificarlo por gravedad, corregirlo, probarlo y desplegarlo, a menudo en sistemas antiguos y muy interconectados. Y los bancos tienen muchos de ese tipo.
Cuando un modelo de IA puede sacar a la luz fallos mucho más rápido que antes, el trabajo se desplaza hacia las fases posteriores. El cuello de botella ya no es descubrir. Es el número de ingenieros disponibles para actuar sobre lo descubierto. La respuesta de Bank of America, al menos por ahora, es sumar gente.
La misma presión ha aparecido en otros sitios. Google suspendió hace poco un programa de recompensas por errores de código abierto tras verse desbordado por informes generados con IA, otra señal de que el volumen de hallazgos puede superar la capacidad para gestionarlos.
El panorama general
Para quienes siguen de cerca la seguridad en IA, esta es una de las señales más claras hasta ahora de que el descubrimiento de vulnerabilidades con IA ha pasado de las demos de laboratorio a las partidas de los presupuestos empresariales. A principios de año, el debate giraba en torno a si los laboratorios exageraban las capacidades de sus modelos. Lo revelado por Bank of America indica que al menos una gran institución se tomó la amenaza lo bastante en serio como para montar un equipo de corrección de unas 4.000 personas.
También demuestra que, en este terreno, la IA está generando trabajo en lugar de eliminarlo, al menos a corto plazo. Los modelos encuentran los fallos, pero son las personas las que siguen haciendo la mayor parte de la reparación. Encaja con una tendencia más amplia en la que defensores y atacantes usan las mismas herramientas nuevas. CyrioX ha informado de casos en los que las herramientas de hackeo con IA permitieron a un solo atacante vulnerar bancos coreanos, lo que ayuda a entender por qué un banco estadounidense prefiere corregir sus puntos débiles antes de que otro los encuentre.
Quedan preguntas abiertas. La previsión de Moynihan de que los costes bajarán es verosímil si se reduce la acumulación de fallos antiguos, o si la IA empieza a encargarse también de buena parte de la corrección, y no solo de la detección. Iniciativas como el escáner gratuito con IA de Anthropic para proyectos de código abierto apuntan a un acceso más amplio a estas herramientas, lo que podría ayudar a los defensores, pero también generar más hallazgos que procesar.
Conviene estar atentos a si otros grandes bancos y empresas publican cifras similares en sus próximas presentaciones de resultados, y a si separan el coste de los parches del resto del gasto. Si más compañías siguen el ejemplo de Bank of America, el coste real del trabajo de seguridad impulsado por la IA debería ser mucho más fácil de ver.