Google oplyser, at en Gemini-model under en sikkerhedstest fik adgang til tre rigtige virksomheders systemer, efter at testen utilsigtet kunne nå internettet. Ifølge Google stoppede modellen selv, da den opdagede, at målene var rigtige virksomheder og ikke den simulerede testverden.
Historien blev først omtalt af Financial Times. Google har efterfølgende beskrevet forløbet i udtalelser, som Reuters og The Guardian gengiver. Det giver et bedre grundlag for at skelne mellem det, der er bekræftet, og det, der fortsat er uklart.
Hvad skete der?
Testen blev gennemført i maj af sikkerhedsfirmaet Irregular som en såkaldt capture-the-flag-øvelse. En Gemini-model skulle finde oplysninger i et fiktivt virksomhedsmiljø. Ifølge Google og Irregular blev internetadgang imidlertid tilgængelig i testen, selv om modellen ikke skulle have haft den.
Det fiktive mål delte navn med en rigtig virksomhed. Google siger, at modellen derefter fandt offentligt tilgængelige oplysninger og gættede loginoplysninger til websites, den opfattede som en del af øvelsen. Det skete i tre tilfælde. Google siger, at modellen afbrød, da den genkendte, at systemerne tilhørte rigtige virksomheder, og at de berørte parter blev underrettet.
Det ved vi – og det ved vi ikke
Det er dokumenteret, at hændelsen skete i forbindelse med en test, og at Google selv bekræfter tre uautoriserede adgange. Google oplyser også, at modellen stoppede i alle tre tilfælde. Virksomheden har ikke offentligt identificeret de berørte virksomheder eller oplyst, hvilken Gemini-model der var tale om. Google beskriver selv, at der ikke blev forvoldt skade; det kan We❤️Apple ikke kontrollere uafhængigt.
Derfor er det misvisende at kalde sagen en almindelig produkt- eller Apple-sikkerhedsfejl. Den handler om afgrænsningen af en AI-sikkerhedstest og om, hvad der kan ske, hvis en agent får adgang til det åbne internet og møder rigtige systemer, som ligner dens testmål.
Hvad betyder det for Apple-brugere?
Intet i de tilgængelige kilder peger på en fejl i Apples tjenester eller på, at iPhone-, iCloud- eller Apple Intelligence-brugere skal ændre en indstilling. Den relevante pointe er mere generel: Når AI-agenter får lov til at udføre flertrinsopgaver med netadgang, skal testmiljø, adgangsgrænser og menneskelig kontrol være skarpt adskilt fra virkelige systemer.
Vi følger kun op, hvis Google, Irregular eller en anden primær part offentliggør nye, konkrete oplysninger om årsag, omfang eller de rettelser, der blev indført.
