Anthropics sikkerhedsteam siger nu, at AI kan have mere end 10 procents chance for at dræbe alle mennesker inden udgangen af årtiet. Det kommer samtidig med, at en forsker har forladt selskabet i protest over sikkerheden. For Apple-brugere er det endnu et tegn på, at AI-kapløbet bliver mere aggressivt.
Det er en opsigtsvækkende melding fra et af de selskaber, der ellers har gjort sikkerhed til en del af sin identitet. Evan Hubinger, som leder et af Anthropics AI-sikkerhedsteams, siger direkte, at de “oprigtigt tror”, at AI kan dræbe alle mennesker, og at hans egen vurdering er over én ud af ti inden for det næste årti.
Udmeldingen kom få timer efter, at Jacob Coxon sagde op. Han arbejdede med at træne AI-systemer hos Anthropic og beskylder selskabet og rivaler som OpenAI for at “race direkte mod selvforbedrende superintelligens” og for at gamble med menneskers liv. Ifølge ham presser konkurrencen virksomhederne fremad, selv om de ikke har styr på konsekvenserne.
For danske Apple-brugere er det relevant, fordi Apple allerede er i en verden, hvor AI-funktioner skal ind i iPhone, iPad og Mac uden at ødelægge tilliden til privatliv og kontrol. Når selv en sikkerhedschef hos Anthropic siger, at der ikke findes en plan for at sikre, at avanceret AI forbliver sikker og tilpasset menneskelige værdier, bliver det sværere at sælge AI som bare endnu en smart funktion.
Hubinger sagde også, at selvforbedrende AI går hurtigere, end de havde ventet. Det passer ind i en bredere bekymring i branchen om såkaldt recursive self-improvement, hvor systemer kan blive bedre ved at forbedre sig selv. Samtidig skriver The Verge, at flere forskere de seneste år har peget på sikkerhed som årsag til at forlade OpenAI.
Anthropic forsøger stadig at være den ansvarlige AI-aktør, men denne sag viser, hvor lidt ro der er bag kulissen. For Apple er signalet klart: AI bliver ikke kun et produktspørgsmål, men også et tillidsspørgsmål.
Hvad betyder det nu?
We❤️Apple vil især holde øje med, om flere sikkerhedsforskere offentligt siger fra, og om Anthropic eller rivalerne ændrer tempo, sikkerhedsarbejde eller kommunikation. Lige nu er den konkrete konsekvens ikke, at du skal slukke for AI, men at du bør læse løfter om “sikker” AI langt mere kritisk, især når de skal ende i dine Apple-enheder.
