Apple satte hårdt ind over for deepfake-nøgenbilleder
Apple truede angiveligt Grok-ejeren xAI med et App Store-ban, hvis problemerne med generering af deepfake-nøgenbilleder uden samtykke ikke blev håndteret. Det er en markant eskalering, fordi App Store-adgang i praksis er en livline for apps, der vil nå iPhone-brugere.
Ifølge oplysningerne var Apples budskab tydeligt: Udbedr den konkrete type misbrug, eller risikér at blive fjernet fra App Store. På trods af, at chatbotten fortsat har udfordringer, endte appen ikke med at blive fjernet.
Derfor betyder det noget
Sagen illustrerer, hvor hurtigt generativ AI kan flytte grænserne for, hvad en app kan bruges til – og hvor højt Apple prioriterer håndhævelse, når indhold krydser over i ikke-samtykkebaseret seksuelt materiale.
Det er også et signal til andre AI-udviklere: App Store-krav handler ikke kun om tekniske retningslinjer, men også om, hvor effektivt en tjeneste begrænser misbrug i praksis.
Appen blev ikke fjernet – men presset var reelt
Selvom Grok angiveligt var tæt på et forbud, blev appen aldrig fjernet fra App Store. Det peger på, at Apple enten vurderede, at der blev gjort tilstrækkelige ændringer, eller at håndteringen af problemet var på et niveau, der afværgede en øjeblikkelig fjernelse.
Samtidig fremgår det, at der stadig er “ongoing problems” med chatbotten, hvilket gør sagen relevant i et bredere perspektiv: Moderation og sikkerhedsbarrierer er ikke en engangsopgave, men et kontinuerligt driftsspørgsmål.
Min vurdering
Hvis historien holder, viser den Apples rolle som gatekeeper i den mest håndgribelige form: Når en app potentielt muliggør alvorligt misbrug, kan Apple bruge App Store-adgang som løftestang. Det er effektivt, fordi konsekvensen er ekstrem for enhver app-udgiver.
Det centrale er ikke kun, at Apple kan true med et ban, men at det tilsyneladende kan ske på baggrund af konkrete, skadelige output fra generativ AI. For brugerne er det et vigtigt pejlemærke for, hvilken type indhold Apple ikke vil acceptere på platformen.
