Nolla Health : l'Utah laisse une IA prescrire contre l'acné

L'Utah est devenu le premier État américain à autoriser une start-up d'intelligence artificielle à prendre des décisions de prescription sous une supervision limitée de médecins. L'entreprise s'appelle Nolla Health, et la première affection qu'elle traitera est l'acné.

Nolla a annoncé cette autorisation dans un billet de blog le 5 octobre. Son fondateur, Luis Wenus, est allé plus loin sur X. Il y a présenté cette décision comme la première autorisation réglementaire aux États-Unis "(et peut-être au monde)" permettant à une IA d'établir des premières ordonnances. "Cela fait de Nolla le tout premier véritable médecin IA de bout en bout", a-t-il écrit.

Comment fonctionne l'application

Le service passe par Nolla Derm, une application iOS. Les nouveaux utilisateurs doivent d'abord remplir un questionnaire d'admission. Une fois acceptés, ils décrivent leur acné à un agent IA et téléchargent un scan du visage qui montre sa gravité. Le modèle choisit ensuite un traitement dans une courte liste de médicaments topiques déjà validés par des médecins.

Les patients peuvent retirer leur ordonnance dans une pharmacie proche ou se faire livrer à domicile. Ils effectuent chaque jour un scan de leur peau pour que l'application suive leur évolution, et le traitement est ajusté chaque mois selon son efficacité. Toute demande qui sort du cadre étroit du système est transmise à un médecin agréé.

"Jusqu'ici, un clinicien agréé signait chaque ordonnance avant son envoi", a déclaré Luis Wenus dans une vidéo de présentation de l'application. "Notre IA peut désormais prendre elle-même cette décision de prescription."

Des limites strictes sur ce que l'IA peut prescrire

Quatre organismes ont validé ce projet pilote :

l'Utah Office of Artificial Intelligence Policy
l'Utah Division of Professional Licensing, l'agence de l'État qui délivre les autorisations d'exercer aux professionnels, dont les médecins
l'Utah Medical Association
l'American Academy of Dermatology

Le périmètre est restreint. L'IA ne peut prescrire que des crèmes contre l'acné à usage local. L'isotrétinoïne et tous les médicaments par voie orale sont exclus.

Le déploiement se fait en trois étapes :

Première étape : deux médecins valident chaque ordonnance générée par l'IA avant que le patient ne la reçoive. Cette phase concerne au moins 100 patients.
Deuxième étape : si aucun problème grave ne survient, l'IA délivre directement les ordonnances, et les médecins les contrôlent après coup. Cette phase porte sur 500 patients.
Troisième étape : les médecins examinent chaque mois au moins 10 % des ordonnances automatisées.

Le projet s'inscrit dans l'AI Learning Lab de l'Utah. Ce programme de type "bac à sable" exempte les entreprises d'IA de certaines lois de l'État afin qu'elles puissent tester leurs produits sous surveillance. L'État prend soin de préciser ce que cela ne signifie pas. Sur sa page consacrée aux projets pilotes autorisés, l'Office of Artificial Intelligence Policy indique que la participation "ne signifie pas que l'État de l'Utah a approuvé, soutenu, certifié ou cautionné le produit".

L'acné d'abord, et ensuite ?

Zaid Fadul, conseiller médical en chef de Nolla, a confié à Inc.com que l'acné n'est qu'un point de départ. Si le projet pilote réussit, l'entreprise veut s'étendre à d'autres affections courantes. Il a cité trois critères : les médecins doivent bien les connaître, elles doivent pouvoir être évaluées à distance, et les médicaments utilisés pour les traiter doivent présenter un excellent profil de sécurité.

"Au-delà de la dermatologie, je pense que des affections comme la grippe et les infections urinaires simples méritent d'être explorées, notamment parce que les tests peuvent fournir des informations objectives à prendre en compte avec les symptômes et les antécédents médicaux du patient", a expliqué Zaid Fadul. "L'essentiel est d'avoir des garde-fous très clairs."

D'ici dix ans, il s'attend à ce que l'IA prenne en charge une grande partie des soins courants, dont les diagnostics, les traitements, les renouvellements d'ordonnance et les examens de routine. Il ne pense pas, en revanche, qu'elle s'occupera des maladies graves, des diagnostics qui bouleversent une vie, des interventions lourdes ou des médicaments à haut risque.

Il range les stimulants, les opioïdes et les benzodiazépines dans cette dernière catégorie. L'une des raisons est que certains patients pourraient tenter de manipuler les modèles chargés de les évaluer. "Franchement, il faudra peut-être beaucoup de temps avant que nous disposions de preuves suffisantes et des garde-fous adaptés pour justifier la prescription autonome de certains de ces médicaments", a déclaré Zaid Fadul.

Notre analyse

La conception du projet pilote compte davantage que l'étiquette de "médecin IA". L'Utah n'a pas délégué un jugement médical sans limites. Le modèle choisit dans une courte liste validée par des médecins, pour une seule affection à faible risque. Le contrôle humain n'est allégé qu'une fois atteints des seuils fixes de patients. Cela reprend le schéma des déploiements d'agents les plus sûrs ailleurs : des autorisations restreintes, des limites strictes fixées en dehors du modèle et un renvoi vers un humain pour tout cas inhabituel. Cela s'inscrit aussi dans le mouvement plus large vers une IA verticale conçue pour un seul domaine.

La remarque de Zaid Fadul sur la manipulation mérite qu'on s'y arrête. Les patients ont tout intérêt à déjouer un robot prescripteur, et les travaux de tests de résistance des chatbots montrent à quel point les abus sont difficiles à anticiper. L'état de l'opinion pèse aussi, alors que des sondages suggèrent que la plupart des Américains veulent que l'IA ralentisse.

Trois points sont à surveiller. Le premier : Nolla atteindra-t-elle la deuxième étape sans incident grave ? Le deuxième : l'entreprise ou l'État publiera-t-il les résultats ? Le troisième : d'autres États adopteront-ils l'approche "bac à sable" de l'Utah pour l'IA en santé ?