Cohere North 2: Agentenplattform mit Token-Ausgabelimits

Cohere hat North 2 veröffentlicht, ein großes Update seiner Plattform für den Betrieb von KI-Agenten in großen Organisationen. Im Mittelpunkt stehen zwei Neuerungen: ein neu aufgebautes System zur Steuerung mehrstufiger Agentenaufgaben und neue Kontrollfunktionen, mit denen Administratoren begrenzen können, wie viele Tokens ihre Teams verbrauchen.

Das Angebot zielt auf ein bekanntes Problem in Unternehmen. Laut Cohere mussten Firmen beim Einsatz von Agenten bisher meist auf eines von drei Dingen verzichten - Sicherheit, Leistungsfähigkeit oder Kostenkontrolle -, um die anderen beiden zu bekommen. Mit North 2 will das Unternehmen diesen Zielkonflikt auflösen.

North ist seit August 2025 allgemein verfügbar. Nach Angaben von Cohere haben die Erfahrungen aus einem Jahr großer Produktiveinsätze, in Branchen von der Finanzwirtschaft bis zum öffentlichen Sektor, das Update geprägt.

So funktioniert die neue Steuerung

Das überarbeitete Steuerungssystem erledigt mehrstufige Aufgaben selbstständig. Muss ein Schritt freigegeben werden, holt es einen Menschen dazu. Darauf bauen einige weitere Neuerungen auf:

• Gemeinsam genutzte Agenten. Ein Agent, der aus einem einfachen Prompt entsteht, lässt sich im ganzen Unternehmen teilen. Andere Teams können ihn wiederverwenden, statt denselben Ablauf neu zu bauen.
• Dauerhaftes Gedächtnis. Jeder Agent behält sein Gedächtnis von einer Sitzung zur nächsten.
• Fähigkeiten. Logik, die Agenten immer wieder nutzen, lässt sich als wiederverwendbare Fähigkeit bündeln.
• Gemeinsame Bibliotheken. Dokumente und andere Inhalte, die jeder Agent braucht, landen in gemeinsamen Bibliotheken.

North 2 kann außerdem aus einer Anfrage in natürlicher Sprache einen Foliensatz, ein Dashboard oder eine schlanke App erstellen, die Nutzer direkt im Chatfenster als Prototyp ausprobieren können. Für wiederkehrende Abläufe bietet Cohere fertige Vorlagen und einen Workflow-Editor per Drag-and-drop, der die Leistung in Echtzeit anzeigt.

Zur Bibliothek der Konnektoren gehören jetzt Slack, GitHub sowie SharePoint und OneDrive von Microsoft. Cohere plant zudem Konnektoren zu Finanzdatenanbietern, darunter PitchBook Data, S&P Global und FactSet Research Systems.

Ausgabelimits in North Admin

Die Kostenkontrolle sitzt in North Admin, der Verwaltungskonsole der Plattform. Sie erfasst den Tokenverbrauch jetzt bis hinunter auf den einzelnen Nutzer und den einzelnen Agenten. Administratoren können für Nutzer und Gruppen Verbrauchsstufen auf Basis von Anfrage- und Tokenraten festlegen und die Nutzung für das gesamte Unternehmen deckeln. Warnmeldungen können Teams benachrichtigen, bevor sie ein Limit erreichen.

North 2 ist modellunabhängig. Das heißt, zu den Modellen, die ein Administrator den einzelnen Teams zuweist, können auch Modelle gehören, die ein Kunde von außerhalb von Cohere mitbringt.

Um die Betriebskosten zu senken, setzt Cohere zudem auf seine Zusammenarbeit mit Nvidia. Nach Angaben des Unternehmens erzeugen seine Modelle auf Nvidias Blackwell- und Hopper-GPUs mehr Tokens pro Sekunde und Knoten. Kari Briski, Vice President für generative KI bei Nvidia, sagte, dies helfe North 2 dabei, "mehr Tokens für weniger Geld zu liefern".

Sicherheit und Bereitstellung

Auch die Sicherheitseinstellungen liegen in North Admin. Schutzmechanismen lassen sich für jeden Agenten einzeln einrichten und prüfen Prompts und Antworten auf personenbezogene Daten sowie auf Versuche von Prompt Injection. Autonomierichtlinien beschränken jeden Agenten auf die Aktionen, für die er berechtigt ist.

Bei der Bereitstellung bleibt alles beim Alten: North läuft lokal im eigenen Rechenzentrum oder in der Virtual Private Cloud des Kunden. Dazu gehören auch vollständig abgeschottete Installationen für Organisationen, die keinerlei Verbindung nach außen zulassen.

Wer die Plattform nutzt

Bell Cyber, eine Sparte von Bell Canada, betreibt North in ihren eigenen Sicherheitsabläufen. Jawed Ahmad, dort Chief Technology and AI Officer, sagte, mit North könne die Sparte agentenbasierte KI betreiben, wobei die Anforderungen an Kontrolle und Souveränität, die ihre Kunden verlangen, "von Anfang an integriert" seien.

Der südkoreanische IT-Dienstleister LG CNS nutzt North intern und bietet die Plattform Kunden im ganzen Land an. Radical Ventures, ein früher Cohere-Investor, hat auf North eine Automatisierung gebaut, die das Briefing vorbereitet, das sein Team vor Gesprächen mit Gründern liest. Partner Parasvil Patel sagte, das Team habe zuvor Stunden damit verbracht, grundlegende Hintergrundinformationen zusammenzutragen.

Der Start kommt weniger als drei Wochen, nachdem Cohere eine Fusionsvereinbarung mit dem deutschen KI-Entwickler Aleph Alpha unterzeichnet hat. Das fusionierte Unternehmen wird den Namen Cohere behalten.

Unsere Einschätzung

Der aufschlussreichste Teil von North 2 ist nicht die Steuerung, sondern die Ausgabenkontrolle. Dass der Tokenverbrauch pro Nutzer und pro Agent erfasst wird, deutet darauf hin, dass die Kosten zu einem echten Hindernis beim Einsatz geworden sind und keine Nebensache mehr. Das passt zu einem größeren Muster, über das wir berichtet haben: Unternehmen nutzen KI mehr, geben aber weniger dafür aus, und Käufer drängen auf strengere Budgetdisziplin.

Die Sicherheitsseite folgt einer ähnlichen Logik. Schutzmechanismen und Autonomierichtlinien, die um das Modell herum statt in ihm sitzen, erinnern an Ansätze wie die Kontrollen von IBM und CoreWeave für Agenten-Workloads. Ob Cohere den Zielkonflikt zwischen Sicherheit, Leistungsfähigkeit und Kosten tatsächlich aufgelöst hat, ist eine Behauptung, die Kunden selbst überprüfen müssen. Beobachten sollte man auch, wie die Fusion mit Aleph Alpha North prägt, vor allem für europäische Käufer, denen Souveränität wichtig ist.