OpenAI’s nye Astra-model bruger en teknik, der kan gøre dens tankegang sværere at overvåge. Det har fået AI-sikkerhedseksperter til at reagere skarpt. For Apple-brugere er det endnu et tegn på, at de store AI-modeller bliver kraftigere, men også mere uigennemsigtige.
TechCrunch skriver, at Astra bruger en metode kaldet “recurrent depth” eller “opaque recurrence”. Teknikken lader modellen arbejde i loops i stedet for en mere lineær rækkefølge, og det kan give færre læsbare spor i chain-of-thought-loggene.
Det er netop det, der bekymrer sikkerhedseksperterne. Redwood CEO Buck Shlegeris skrev, at han er “meget bekymret” for rapporteringen, mens AI-veteranen Zvi Mowshowitz advarer om en mulig “race to the bottom”, hvis flere laboratorier skruer op for den slags metoder.
For danske Apple-brugere er vinklen enkel: Jo mere avancerede AI-systemer bliver, jo vigtigere bliver spørgsmålet om gennemsigtighed i de funktioner, der kan ende i apps, assistenter og arbejdsflows på iPhone, iPad og Mac. Apple har selv gjort privatliv og kontrollerbarhed til en del af sin AI-fortælling, og den fortælling bliver kun mere relevant, når konkurrenterne bevæger sig mod mindre gennemskuelige modeller.
OpenAI siger samtidig, at brugen af teknikken i Astra er begrænset, og at modellen stadig forventes at have læsbare chain-of-thought-spor. OpenAI’s chefscientist Jakub Pachocki understreger også, at virksomheden har arbejdet med chain-of-thought-monitorering siden de første reasoning-modeller.
Astra er ikke beskrevet som et fuldt gennembrud i skjult ræsonnering, men som et signal om retningen. Hvis den slags teknik breder sig, bliver det sværere for både sikkerhedsforskere og brugere at forstå, hvad modellerne faktisk gør under motorhjelmen.
Hvad skal du holde øje med?
Det næste vigtige er, om OpenAI holder teknikken begrænset, eller om den får større plads i kommende modeller. TechCrunch skriver også, at både Anthropic og Google DeepMind følger lignende spor, hvilket gør overvågning til et bredere brancheproblem.
We❤️Apple vurderer, at dette er en historie, man skal læse som et varsel snarere end som et færdigt produktløfte. Hvis Apple skal matche tempoet i AI-kapløbet, bliver det afgørende, at nye funktioner ikke bare bliver stærke, men også til at stole på i praksis.
Indtil videre er den klare konklusion, at Astra rejser flere spørgsmål om kontrol end om rå ydelse. Det er præcis den slags udvikling, Apple-brugere bør følge tæt, før næste bølge af AI-funktioner lander i deres egne apps og enheder.
