OpenAI har sat intern aktivitet omkring den kommende AI-model Astra på pause, når arbejdet ikke lever op til nye, skærpede sikkerhedskrav. Selskabet siger, at nyere test og ekspertvurderinger viser så store fremskridt i agentisk kodning og cybersikkerhed, at det endnu ikke kan udelukke, at modellen når det højeste risikoniveau i selskabets egen beredskabsramme.

En vurdering – ikke en færdig konklusion

OpenAI siger ikke, at Astra er klassificeret som en kritisk cybermodel. Den foreløbige vurdering er, at selskabet ikke kan afvise det niveau, mens tests fortsætter. I OpenAIs ramme dækker “kritisk” blandt andet en model, der uden menneskelig hjælp kan finde og udvikle fungerende zero-day-angreb mod mange hærdede, virkelige systemer eller gennemføre nye angrebsstrategier ud fra et overordnet mål.

Astra er ikke lanceret, og OpenAI oplyser, at modellen heller ikke var involveret i den tidligere hændelse hos Hugging Face. Det er derfor ikke en ny sikkerhedshændelse for ChatGPT-brugere, men en offentliggørelse af, hvordan selskabet håndterer en mulig kapabilitetsgrænse før en eventuel udgivelse.

Hvad OpenAI ændrer

OpenAI vil blandt andet bruge mere isolerede testmiljøer, begrænse netværks- og værktøjsadgang, styrke beskyttelsen af modelvægte og udvide overvågningen. Selskabet skriver også, at der er indført løbende monitorering af risikable handlinger og fejlretning i Astras agentiske anvendelser, og at relevante myndigheder og udvalgte sikkerhedsorganisationer skal inddrages i yderligere test.

Det væsentlige er pausen: aktiviteter, der endnu ikke lever op til de nye kontroller, fortsætter ikke. OpenAI beskriver den som en forsigtighedsforanstaltning, mens kontrollerne testes og bygges ud.

Hvorfor Apple-brugere bør følge OpenAI

ChatGPT er en valgfri del af Apple Intelligence og kan bruges gennem blandt andet Siri, Skriveværktøjer, Image Playground og Genveje. Astra er derimod ikke en del af Apples nuværende ChatGPT-udvidelse, og OpenAI har ikke annonceret nogen ændring af Siri eller Apple Intelligence i forbindelse med vurderingen.

Historien er alligevel relevant for Apple-brugere: Når Apple vælger eksterne AI-partnere, bliver deres sikkerhedsarbejde en del af det større tillidsbillede. Den praktiske konklusion i dag er dog enkel: Du behøver ikke ændre indstillinger på iPhone eller Mac. Følg i stedet, om Astra bliver lanceret, og hvilke konkrete sikkerhedskrav OpenAI offentliggør før det.