Nolla Health: Utah lässt KI Aknecremes verschreiben

Utah ist der erste US-Bundesstaat, der einem KI-Start-up erlaubt, Verschreibungen mit nur eingeschränkter ärztlicher Aufsicht selbst zu entscheiden. Das Unternehmen heißt Nolla Health, und die erste Erkrankung, die es behandeln wird, ist Akne.

Nolla gab die Genehmigung am 5. Oktober in einem Blogbeitrag bekannt. Gründer Luis Wenus ging auf X noch weiter. Er sprach von der ersten behördlichen Genehmigung in den USA "(und möglicherweise weltweit)", die einer KI das Ausstellen von Erstverschreibungen erlaubt. "Damit ist Nolla der allererste echte KI-Arzt, der alles von Anfang bis Ende übernimmt", schrieb er.

So funktioniert die App

Der Dienst läuft über Nolla Derm, eine iOS-App. Neue Nutzer durchlaufen zunächst ein Aufnahmeverfahren, bevor sie die App verwenden können. Nach der Freigabe beschreiben sie einem KI-Agenten ihre Akne und laden einen Gesichtsscan hoch, der zeigt, wie stark sie ausgeprägt ist. Das Modell wählt dann eine Behandlung aus einer kurzen Liste äußerlich anzuwendender Medikamente aus, die Ärzte bereits freigegeben haben.

Patienten können das Rezept in einer Apotheke vor Ort einlösen oder sich das Medikament nach Hause schicken lassen. Sie machen täglich einen Hautscan, damit die App den Verlauf verfolgen kann, und der Behandlungsplan wird monatlich angepasst, je nachdem, wie gut er wirkt. Jede Anfrage, die über die engen Grenzen des Systems hinausgeht, landet bei einem approbierten Arzt aus Fleisch und Blut.

"Bisher hat ein zugelassener Mediziner jedes einzelne Rezept unterschrieben, bevor es rausging", sagte Wenus in einem Video, in dem er die App vorstellte. "Jetzt kann unsere KI diese Verschreibungsentscheidung selbst treffen."

Enge Grenzen für die KI

Vier Stellen haben dem Pilotprojekt zugestimmt:

das Utah Office of Artificial Intelligence Policy
die Utah Division of Professional Licensing, die Landesbehörde, die Berufszulassungen erteilt, auch für Ärzte
die Utah Medical Association
die American Academy of Dermatology

Der Rahmen ist klein. Die KI darf nur Cremes gegen Akne verschreiben. Isotretinoin und sämtliche Medikamente zum Einnehmen sind ausgeschlossen.

Die Einführung erfolgt in drei Stufen:

Stufe eins: Zwei Ärzte prüfen jedes von der KI erstellte Rezept, bevor der Patient es erhält. Das gilt für mindestens 100 Patienten.
Stufe zwei: Treten keine ernsthaften Probleme auf, stellt die KI Rezepte direkt aus, und Ärzte prüfen sie im Nachhinein. Diese Phase umfasst 500 Patienten.
Stufe drei: Ärzte prüfen jeden Monat mindestens 10 % der automatisch ausgestellten Rezepte.

Das Pilotprojekt ist Teil von Utahs AI Learning Lab. Dieses Reallabor befreit KI-Unternehmen von bestimmten Landesgesetzen, damit sie Produkte unter Aufsicht testen können. Der Bundesstaat legt Wert darauf, klarzustellen, was das nicht bedeutet. Auf seiner Seite zu den genehmigten Pilotprojekten schreibt das Office of Artificial Intelligence Policy, eine Teilnahme bedeute "nicht, dass der Bundesstaat Utah das Produkt genehmigt, unterstützt, zertifiziert oder sich dafür verbürgt hat".

Erst Akne, und dann?

Zaid Fadul, Chefberater für Medizin bei Nolla, sagte Inc.com, Akne sei nur der Anfang. Wenn das Pilotprojekt erfolgreich ist, will das Unternehmen auf andere häufige Erkrankungen ausweiten. Er nannte drei Kriterien: Ärzte verstehen sie gut, sie lassen sich aus der Ferne beurteilen, und die Medikamente zu ihrer Behandlung haben ein gutes Sicherheitsprofil.

"Über die Dermatologie hinaus halte ich Erkrankungen wie die Grippe und unkomplizierte Harnwegsinfekte für prüfenswert, vor allem weil Tests objektive Informationen liefern können, die man zusammen mit den Symptomen und der Krankengeschichte eines Patienten berücksichtigen kann", sagte Fadul. "Entscheidend sind sehr klare Leitplanken."

Innerhalb von zehn Jahren erwartet er, dass KI einen Großteil der Routineversorgung übernimmt, darunter Diagnostik, Behandlungen, Folgerezepte und Routineuntersuchungen. Schwere Erkrankungen, lebensverändernde Diagnosen, größere Eingriffe oder Hochrisiko-Medikamente sieht er dagegen nicht in ihrer Hand.

Zur letzten Gruppe zählt er Stimulanzien, Opioide und Benzodiazepine. Ein Grund: Manche Patienten könnten versuchen, die Modelle zu manipulieren, die sie beurteilen. "Ehrlich gesagt kann es lange dauern, bis wir genug Belege und die passenden Schutzmechanismen haben, um eine autonome Verschreibung einiger dieser Medikamente zu rechtfertigen", sagte Fadul.

Unsere Einschätzung

Die Gestaltung des Pilotprojekts ist wichtiger als das Etikett "KI-Arzt". Utah hat kein unbegrenztes ärztliches Urteil aus der Hand gegeben. Das Modell wählt aus einer kurzen, von Ärzten geprüften Liste, und das für eine einzige Erkrankung mit geringem Risiko. Die menschliche Kontrolle wird erst zurückgefahren, wenn das Pilotprojekt feste Patientenzahlen erreicht hat. Das folgt dem Muster sicherer Agenten-Einsätze anderswo: eng gefasste Befugnisse, feste Grenzen, die außerhalb des Modells gesetzt werden, und die Weitergabe an einen Menschen bei allem Ungewöhnlichen. Es passt auch zum breiteren Trend hin zu vertikaler KI, die für ein einzelnes Fachgebiet entwickelt wird.

Fadul's Hinweis auf Manipulation verdient Aufmerksamkeit. Patienten haben einen klaren Anreiz, einen Verschreibungs-Bot auszutricksen, und Arbeiten zu Belastungstests für Chatbots zeigen, wie schwer sich Missbrauch vorhersehen lässt. Auch die Stimmung in der Bevölkerung spielt eine Rolle, zumal Umfragen darauf hindeuten, dass die meisten Amerikaner sich eine langsamere KI-Entwicklung wünschen.

Drei Dinge gilt es zu beobachten. Erstens, ob Nolla Stufe zwei ohne ernste Zwischenfälle erreicht. Zweitens, ob das Unternehmen oder der Bundesstaat die Ergebnisse veröffentlicht. Drittens, ob andere Bundesstaaten Utahs Reallabor-Ansatz für KI im Gesundheitswesen übernehmen.