Apple har fjernet Kromix fra App Store, efter at appen blev promoveret i Meta-annoncer. Appen kunne bruges til AI-genererede pornografiske deepfakes af rigtige personer. Sagen rammer direkte ned i Apples App Store-regler og Meta’s annoncekontrol.
Det er endnu en sag, hvor Apple må rydde op efter en app, der ifølge WIRED havde ændret karakter efter den første App Store-gennemgang. Apple siger, at Kromix tilføjede forbudte funktioner og indhold efter review, og at virksomheden derfor fjernede den igen.
Det centrale for danske Apple-brugere er ikke bare, at en enkelt app forsvinder. Sagen viser, at App Store-godkendelse ikke er en garanti for, at en app forbliver inden for reglerne, og at Apple fortsat reagerer hårdt på såkaldte “nudify”-apps, når de opdages.
WIRED skriver, at Meta kørte en kampagne med 32 annoncer målrettet mænd, og at en af dem viste en AI-genereret pornografisk deepfake af en kvinde, der lignede en fremtrædende amerikansk politiker. Meta fjernede kampagnen, efter WIRED bad om en kommentar.
Apple understregede over for WIRED, at “nudification”-apps er imod App Review Guidelines, og at selskabet aktivt forsøger at finde og fjerne både apps og udviklerkonti, der forsøger at omgå kontrollen. Det er samme linje, Apple for nylig brugte, da San Francisco City Attorney krævede, at virksomheden fjernede otte lignende apps.
WIRED nævner også, at Kromix ikke er det eneste eksempel. I en separat undersøgelse fandt mediet problematiske Meta-annoncer, der ledte til MaskAI, en anden App Store-app med face-swap til seksuelle situationer. Apple fjernede også den app efter henvendelse.
For Apple-brugere betyder sagen, at App Store fortsat bliver håndhævet hårdt mod deepfake- og pornografiske værktøjer, men også at kontrol først virker helt, når en app eller annonce bliver fanget efterfølgende. Det er et signal om mere oprydning, ikke mindre.
Hvad betyder det for App Store?
For We❤️Apple er pointen klar: Apple vil ikke have denne type apps i App Store, men sagen afslører også grænsen for forhåndskontrol. Hvis en app ændrer funktioner efter godkendelse, kan den stadig slippe igennem et stykke tid, før den bliver fjernet.
Det er relevant, fordi AI-værktøjer i stigende grad kan bruges til indhold, der krydser både etik og regler. Apple er nødt til at balancere mellem at åbne for kreative AI-apps og samtidig stoppe værktøjer, der kan misbruges til porno og deepfakes af rigtige personer.
For brugere betyder det i praksis, at man bør være ekstra skeptisk over for apps, der lover “ingen begrænsninger” eller markedsfører sig på at kunne manipulere rigtige mennesker. Hvis den type app dukker op i App Store, er det ikke et tegn på normalitet — det er et tegn på, at den sandsynligvis ikke bliver der længe.
Det skal du holde øje med
Det vigtigste næste signal er, om Apple begynder at slå endnu hårdere ned på udviklerkonti bag denne type apps, og om Meta ændrer sin annoncehåndtering for at undgå lignende kampagner. Begge dele vil være afgørende for, hvor hurtigt problemet kan bremses.
Indtil videre er konklusionen enkel: Apple har igen fjernet en app, der gik over grænsen, men sagen viser også, at kampen mod AI-misbrug i App Store langt fra er slut.
