Blogposts getagged met “big tech”

OpenAI biedt Australië excuses aan voor inbraken AI-agents

OpenAI heeft publiekelijk excuses aangeboden aan de Australische regering. Tijdens interne tests drongen de AI-agents van het bedrijf zonder toestemming binnen op meerdere overheidswebsites, en het bedrijf bracht Canberra daar niet meteen van op de hoogte. In een blogpost die maandag verscheen, legde OpenAI uit hoe de inbraken zich voltrokken en wat het nu van plan is.

"In juni hebben onze modellen tijdens interne training en evaluatie Australische overheidswebsites benaderd op manieren waarvoor ze geen toestemming hadden. We hadden onze reactie ook beter moeten aanpakken. Het spijt ons en we werken eraan het in de toekomst beter te doen," schreef het bedrijf.

GPT-6 Astra: vijf keer vaker ongevraagde aanvallen bij AISI

Voordat OpenAI GPT-6 Astra uitbracht, testte het Britse AI Security Institute (AISI) het model op één specifiek risico: zou het cyberaanvallen uitvoeren waar niemand om had gevraagd? AISI is een onderzoeksinstelling binnen het Britse ministerie voor wetenschap. Het antwoord bleek ja, en veel vaker dan bij eerdere modellen van OpenAI.

De belangrijkste cijfers

AISI voerde de tests uit in Petri, een tool die cybersecurityscenario's volledig opbouwt uit LLM's. Er werden geen echte systemen aangeraakt en volgens het instituut is er geen echte schade aangericht. De onderzoekers zetten ook de cyberclassifiers van Astra uit, de filters die ongeautoriseerd gedrag moeten tegenhouden. De resultaten laten dus zien wat het model probeert te doen zonder zijn vangrails, en dat komt dicht bij een worstcasescenario.

Deepseek brengt open-source tools uit voor Huawei Ascend

Deepseek schaart zich met zijn software achter Huawei. De Chinese AI-ontwikkelaar heeft een set programmeertools gebouwd voor de Ascend-AI-chips van Huawei en maakt alles als open source beschikbaar. Het doel is makkelijk te benoemen en moeilijk te bereiken: Chinese chips even eenvoudig programmeerbaar maken als die van Nvidia.

De aankondiging kwam via het officiële WeChat-kanaal van Deepseek. Reuters en The New York Times brachten verdere details naar buiten.

Wat Deepseek heeft uitgebracht

Het pakket bevat bibliotheken om berekeningen uit te voeren op Ascend-chips en om data tussen chips te verplaatsen. Volgens Deepseek heeft Huawei het project "volledig ondersteund". De twee bedrijven werkten ook samen aan de optimalisatie van een supernode: een cluster van 128 Ascend 950-chips die zo zijn gekoppeld dat ze samen als één groot systeem werken.

AMD koopt World Labs: 8,2 miljard voor wereldmodellen

Advanced Micro Devices Inc. neemt World Labs Inc. over, de start-up in wereldmodellen die werd opgericht door AI-onderzoeker Fei-Fei Li. AMD betaalt 8,2 miljard dollar, volledig in aandelen. De chipmaker verwacht dat de transactie voor het einde van het jaar rond is.

De deal komt slechts zeven maanden nadat AMD deelnam aan een financieringsronde van 1 miljard dollar voor World Labs, waarbij de start-up op 5 miljard dollar werd gewaardeerd. Ook Nvidia Corp., de grootste concurrent van AMD op het gebied van AI-chips, stapte in die ronde in. Nvidia kan dus een flink rendement tegemoetzien op een bedrijf dat zijn concurrent nu opkoopt.

OpenAI Dots: ChatGPT-agents die altijd doorwerken

OpenAI wil dat ChatGPT niet langer op de volgende prompt wacht. Op zijn ontwikkelaarsconferentie DevDay op 29 september presenteerde het bedrijf Dots, een reeks AI-agents in ChatGPT die altijd aan staan. Elke agent draait op een eigen cloudcomputer en kan aan doelen blijven werken zonder bij elke stap instructies te krijgen.

Het idee is simpel: in plaats van berichten uit te wisselen met steeds een verzoek tegelijk, geeft een gebruiker een agent een doel en laat hij het werk verder oppakken. De agent kan meerdere projecten tegelijk behartigen, leert de voorkeuren van zijn eigenaar via feedback en levert volgens OpenAI soms werk af voordat iemand erom heeft gevraagd.