Nolla Health: Utah laat AI acnecrèmes voorschrijven

Utah is de eerste Amerikaanse staat die een AI-startup medicijnen laat voorschrijven met slechts beperkt toezicht van menselijke artsen. Het gaat om Nolla Health, en de eerste aandoening die het bedrijf gaat behandelen is acne.

Nolla maakte de goedkeuring op 5 oktober bekend in een blogpost. Oprichter Luis Wenus ging op X nog een stap verder. Hij noemde het de eerste goedkeuring van een toezichthouder in de VS "(en mogelijk ter wereld)" waarmee een AI zelf een eerste recept mag uitschrijven. "Daarmee is Nolla de allereerste echte end-to-end AI-arts," schreef hij.

Hoe de app werkt

De dienst loopt via Nolla Derm, een iOS-app. Nieuwe gebruikers doorlopen eerst een intakeprocedure voordat ze de app kunnen gebruiken. Zijn ze toegelaten, dan beschrijven ze hun acne aan een AI-agent en uploaden ze een gezichtsscan die laat zien hoe ernstig die is. Het model kiest vervolgens een behandeling uit een korte lijst met middelen voor uitwendig gebruik die artsen al hebben goedgekeurd.

Patiënten kunnen het recept ophalen bij een apotheek in de buurt of het middel thuis laten bezorgen. Ze maken dagelijks een huidscan zodat de app de voortgang kan volgen, en het behandelplan wordt elke maand bijgesteld op basis van hoe goed het aanslaat. Elk verzoek dat buiten de smalle grenzen van het systeem valt, gaat naar een bevoegde menselijke arts.

"Tot nu toe ondertekende een bevoegde zorgverlener elk recept voordat het de deur uitging," zei Wenus in een video waarin hij de app introduceerde. "Onze AI kan die voorschrijfbeslissing nu zelf nemen."

Strakke grenzen aan wat de AI mag voorschrijven

Vier instanties gaven groen licht voor de proef:

het Utah Office of Artificial Intelligence Policy
de Utah Division of Professional Licensing, de staatsinstantie die beroepsbeoefenaars een vergunning geeft, waaronder artsen
de Utah Medical Association
de American Academy of Dermatology

De reikwijdte is beperkt. De AI mag alleen crèmes tegen acne voorschrijven. Isotretinoïne en alle middelen die via de mond worden ingenomen, vallen erbuiten.

De invoering verloopt in drie fasen:

Fase één: Twee artsen keuren elk door de AI opgesteld recept goed voordat de patiënt het krijgt. Dat gebeurt bij minstens 100 patiënten.
Fase twee: Als er geen ernstige problemen opduiken, schrijft de AI recepten direct uit en controleren artsen ze achteraf. Deze fase omvat 500 patiënten.
Fase drie: Artsen controleren elke maand minstens 10% van de geautomatiseerde recepten.

De proef maakt deel uit van Utah's AI Learning Lab. Dit sandboxprogramma stelt AI-bedrijven vrij van bepaalde staatswetten, zodat ze producten onder toezicht kunnen testen. De staat geeft wel nadrukkelijk aan wat dat niet betekent. Op de pagina met toegestane proeven schrijft het Office of Artificial Intelligence Policy dat deelname "niet betekent dat de staat Utah het product heeft goedgekeurd, onderschreven, gecertificeerd of ervoor instaat."

Eerst acne, en dan?

Zaid Fadul, hoofd medisch adviseur van Nolla, vertelde aan Inc.com dat acne slechts een begin is. Als de proef slaagt, wil het bedrijf uitbreiden naar andere veelvoorkomende aandoeningen. Hij noemde drie criteria: artsen moeten ze goed begrijpen, ze moeten op afstand te beoordelen zijn en de middelen waarmee ze worden behandeld, moeten een sterk veiligheidsprofiel hebben.

"Buiten de dermatologie denk ik dat aandoeningen als griep en ongecompliceerde urineweginfecties het onderzoeken waard zijn, vooral omdat tests objectieve informatie kunnen opleveren die je naast de klachten en de medische voorgeschiedenis van een patiënt kunt leggen," zei Fadul. "Het draait om heel duidelijke vangrails."

Binnen tien jaar verwacht hij dat AI een groot deel van de routinezorg voor zijn rekening neemt, waaronder diagnostiek, behandelingen, herhaalrecepten en routinematige tests. Hij verwacht niet dat AI ernstige aandoeningen, ingrijpende diagnoses, grote ingrepen of risicovolle medicijnen overneemt.

Stimulantia, opioïden en benzodiazepinen rekent hij tot die laatste groep. Een van de redenen is dat sommige patiënten de modellen die hen beoordelen, mogelijk proberen te manipuleren. "Eerlijk gezegd kan het lang duren voordat we genoeg bewijs en de juiste waarborgen hebben om het zelfstandig voorschrijven van sommige van deze middelen te ondersteunen," zei Fadul.

Onze kijk

De opzet van de proef is belangrijker dan het etiket "AI-arts". Utah heeft geen onbegrensd medisch oordeel uit handen gegeven. Het model kiest uit een korte lijst die door artsen is gecontroleerd, voor één aandoening met weinig risico. Het menselijk toezicht wordt pas teruggeschroefd als de proef vaste aantallen patiënten heeft bereikt. Dat volgt het patroon van veiligere inzet van AI-agents elders: beperkte bevoegdheden, harde grenzen die buiten het model worden vastgelegd en doorverwijzing naar een mens bij alles wat afwijkt. Het past ook in de bredere verschuiving naar verticale AI die voor één domein is gebouwd.

Het punt van Fadul over manipulatie verdient aandacht. Patiënten hebben er duidelijk belang bij om een voorschrijvende bot te misleiden, en werk aan het stresstesten van chatbots laat zien hoe moeilijk misbruik te voorspellen is. Ook de publieke stemming speelt mee, nu peilingen erop wijzen dat de meeste Amerikanen willen dat AI op de rem trapt.

Er zijn drie dingen om in de gaten te houden. Het eerste is of Nolla zonder ernstige incidenten fase twee haalt. Het tweede is of het bedrijf of de staat de resultaten openbaar maakt. Het derde is of andere staten de sandboxaanpak van Utah overnemen voor AI in de zorg.