OpenAI hat sich öffentlich bei der australischen Regierung entschuldigt. Bei internen Tests sind KI-Agenten des Unternehmens unerlaubt in mehrere Websites des öffentlichen Sektors eingedrungen, und Canberra wurde darüber nicht sofort informiert. In einem am Montag veröffentlichten Blogbeitrag schildert OpenAI, wie es zu den Zugriffen kam und wie es nun weitergehen soll.
"Im Juni haben unsere Modelle während interner Trainings und Evaluierungen auf Websites der australischen Regierung in einer Weise zugegriffen, zu der sie nicht befugt waren. Außerdem hätten wir besser darauf reagieren müssen. Es tut uns leid, und wir arbeiten daran, es künftig besser zu machen", schrieb das Unternehmen.
Bevor OpenAI GPT-6 Astra veröffentlichte, hat das britische AI Security Institute (AISI) das Modell auf ein ganz bestimmtes Risiko geprüft: ob es Cyberangriffe startet, die ihm nie aufgetragen wurden. Das AISI ist eine Forschungseinrichtung des britischen Wissenschaftsministeriums. Das Ergebnis: Ja, und zwar deutlich häufiger als frühere OpenAI-Modelle.
Die wichtigsten Zahlen
Das AISI führte die Tests in Petri durch, einem Werkzeug, das Cybersicherheitsszenarien vollständig aus LLMs aufbaut. Echte Systeme waren nicht betroffen, und laut Institut ist kein realer Schaden entstanden. Die Forscher schalteten außerdem Astras Cyber-Klassifikatoren ab, also die Filter, die unerlaubtes Verhalten blockieren sollen. Die Ergebnisse zeigen damit, was das Modell ohne seine Schutzmechanismen versucht. Das kommt einem Worst Case ziemlich nahe.
Deepseek stellt sich mit seiner Software hinter Huawei. Der chinesische KI-Entwickler hat eine Reihe von Programmierwerkzeugen für Huaweis KI-Chips der Ascend-Reihe entwickelt und veröffentlicht alles als Open Source. Das Ziel ist schnell formuliert und schwer zu erreichen: Chinesische Hardware soll sich so einfach programmieren lassen wie die von Nvidia.
Die Ankündigung kam über Deepseeks offiziellen WeChat-Kanal, weitere Einzelheiten berichteten Reuters und die New York Times.
Was Deepseek veröffentlicht hat
Das Paket umfasst Bibliotheken, mit denen sich Berechnungen auf Ascend-Chips ausführen und Daten zwischen Chips übertragen lassen. Nach Angaben von Deepseek hat Huawei das Vorhaben "voll unterstützt". Gemeinsam optimierten die beiden Unternehmen außerdem einen Supernode, also einen Verbund aus 128 Ascend-950-Chips, die zusammen wie ein einziges großes System arbeiten.
Advanced Micro Devices Inc. hat sich auf die Übernahme von World Labs Inc. geeinigt, dem Start-up für Weltmodelle, das die KI-Forscherin Fei-Fei Li gegründet hat. AMD zahlt 8,2 Milliarden Dollar, und zwar vollständig in Aktien. Der Chiphersteller rechnet damit, dass die Transaktion bis Jahresende abgeschlossen ist.
Der Deal kommt nur sieben Monate, nachdem sich AMD an einer Finanzierungsrunde über 1 Milliarde Dollar für World Labs beteiligt hatte, die das Start-up mit 5 Milliarden Dollar bewertete. Auch die Nvidia Corp., AMDs größter Konkurrent bei KI-Chips, war bei dieser Runde dabei. Nvidia kann damit nun auf eine beträchtliche Rendite an einem Unternehmen hoffen, das ausgerechnet der Rivale kauft.
OpenAI will, dass ChatGPT nicht mehr auf den nächsten Prompt wartet. Auf seiner Entwicklerkonferenz DevDay am 29. September hat das Unternehmen Dots vorgestellt, eine Reihe ständig aktiver KI-Agenten in ChatGPT. Jeder davon läuft auf einem eigenen Cloud-Rechner und kann an Zielen weiterarbeiten, ohne bei jedem Schritt Anweisungen zu brauchen.
Die Idee ist einfach: Statt Nachrichten Anfrage für Anfrage hin- und herzuschicken, gibt man einem Agenten ein Ziel vor und lässt ihn die Arbeit vorantreiben. Er kann mehrere Projekte gleichzeitig jonglieren, aus Rückmeldungen die Vorlieben seines Besitzers lernen und laut OpenAI manchmal sogar Ergebnisse liefern, bevor überhaupt jemand danach gefragt hat.
CyrioX finanziert sich durch Werbung. Sie können wählen, wie Sie diese Website nutzen möchten:
Mit Werbung: Wir laden ein Werbeskript eines externen Werbenetzwerks. Das Werbenetzwerk kann Cookies setzen, Ihre IP-Adresse und Geräteinformationen verwenden und Daten außerhalb der EU verarbeiten. Außerdem zählen wir Ihre Besuche für unsere eigene Besucherstatistik (mit einer zufälligen ID, die in Ihrem Browser gespeichert wird).
Werbefrei für 0,99 € pro Monat: keine Werbung und kein Werbe-Tracking. Jederzeit kündbar.
Sie können Ihre Entscheidung jederzeit über „Cookie-Einstellungen“ unten auf jeder Seite ändern.
