Nolla Health: Utah deja a una IA recetar cremas para el acné
Utah se ha convertido en el primer estado de EE. UU. que permite a una startup de inteligencia artificial tomar decisiones de prescripción con una supervisión limitada de médicos humanos. La empresa es Nolla Health, y la primera afección que tratará es el acné.
Nolla anunció la autorización en una entrada de su blog el 5 de octubre. Su fundador, Luis Wenus, fue más allá en X. La describió como la primera autorización regulatoria en EE. UU. "(y posiblemente en el mundo)" para que una IA emita recetas iniciales. "Esto convierte a Nolla en el primer médico de IA real y completo de la historia", escribió.
Cómo funciona la aplicación
El servicio funciona a través de Nolla Derm, una aplicación para iOS. Los nuevos usuarios deben completar un proceso de admisión antes de poder usarla. Una vez aprobados, describen su acné a un agente de IA y suben un escaneo facial que muestra su gravedad. A continuación, el modelo elige un tratamiento de una lista reducida de medicamentos tópicos que los médicos ya han aprobado.
Los pacientes pueden recoger la receta en una farmacia cercana o recibirla en casa. Cada día se hacen un escaneo de la piel para que la aplicación siga su evolución, y el plan de tratamiento se ajusta cada mes según su eficacia. Cualquier solicitud que quede fuera de los estrechos límites del sistema pasa a un médico colegiado humano.
"Hasta ahora, un profesional sanitario colegiado firmaba todas y cada una de las recetas antes de que salieran", explicó Wenus en un vídeo de presentación de la aplicación. "Nuestra IA ya puede tomar esa decisión de prescripción por sí misma".
Límites estrictos sobre lo que puede recetar la IA
Cuatro organismos dieron el visto bueno al proyecto piloto:
- la Oficina de Política de Inteligencia Artificial de Utah
- la División de Licencias Profesionales de Utah, el organismo estatal que concede licencias a profesionales, entre ellos los médicos
- la Asociación Médica de Utah
- la Academia Estadounidense de Dermatología
El alcance es reducido. La IA solo puede recetar cremas para el acné tópico. La isotretinoína y todos los medicamentos orales quedan excluidos.
La implantación tiene tres fases:
- Primera fase: dos médicos aprueban cada receta generada por la IA antes de que llegue al paciente. Esto se mantiene durante al menos 100 pacientes.
- Segunda fase: si no surgen problemas graves, la IA emite las recetas directamente y los médicos las revisan después. Esta fase abarca 500 pacientes.
- Tercera fase: los médicos revisan al menos el 10% de las recetas automatizadas cada mes.
El piloto forma parte del AI Learning Lab de Utah. Este programa de entorno de pruebas regulado exime a las empresas de IA de determinadas leyes estatales para que puedan probar sus productos bajo supervisión. El estado se cuida de aclarar lo que eso no significa. En su página de pilotos autorizados, la Oficina de Política de Inteligencia Artificial indica que participar "no significa que el Estado de Utah haya aprobado, respaldado, certificado o avalado el producto".
Primero el acné, ¿y después?
Zaid Fadul, asesor médico jefe de Nolla, declaró a Inc.com que el acné es solo un punto de partida. Si el piloto sale bien, la empresa quiere ampliarlo a otras afecciones comunes. Citó tres criterios: que los médicos las conozcan bien, que puedan evaluarse a distancia y que los fármacos usados para tratarlas tengan perfiles de seguridad sólidos.
"Más allá de la dermatología, creo que merece la pena explorar afecciones como la gripe y las infecciones urinarias no complicadas, sobre todo porque las pruebas pueden aportar información objetiva que puede valorarse junto con los síntomas y el historial médico del paciente", afirmó Fadul. "La clave es contar con unas salvaguardas muy claras".
En un plazo de diez años, prevé que la IA se encargue de buena parte de la atención rutinaria, incluidos diagnósticos, tratamientos, renovación de recetas y pruebas rutinarias. No espera que asuma afecciones graves, diagnósticos que cambian la vida, intervenciones importantes ni medicamentos de alto riesgo.
En este último grupo incluye los estimulantes, los opioides y las benzodiacepinas. Uno de los motivos es que algunos pacientes podrían intentar manipular los modelos que los evalúan. "Sinceramente, puede que pase mucho tiempo antes de que tengamos suficientes pruebas y las salvaguardas adecuadas para respaldar la prescripción autónoma de algunos de estos fármacos", señaló Fadul.
Nuestro análisis
El diseño del piloto importa más que la etiqueta de "médico de IA". Utah no ha cedido un criterio médico ilimitado. El modelo elige de una lista corta revisada por médicos, para una sola afección de bajo riesgo. La revisión humana solo se reduce cuando el piloto alcanza un número fijo de pacientes. Esto sigue el patrón de los despliegues de agentes más seguros en otros ámbitos: permisos acotados, límites estrictos fijados fuera del modelo y derivación a un humano ante cualquier cosa inusual. También encaja en el movimiento más amplio hacia una IA vertical diseñada para un único ámbito.
La advertencia de Fadul sobre la manipulación merece atención. Los pacientes tienen un incentivo claro para engañar a un bot que receta, y los trabajos de pruebas de estrés a chatbots muestran lo difícil que es anticipar los usos indebidos. El estado de ánimo de la opinión pública también influye, dado que las encuestas apuntan a que la mayoría de los estadounidenses quiere que la IA frene.
Hay tres cosas que vigilar. La primera, si Nolla llega a la segunda fase sin incidentes graves. La segunda, si la empresa o el estado publican los resultados. La tercera, si otros estados adoptan el modelo de entorno de pruebas de Utah para la IA sanitaria.