Apple har opdateret App Store-reglerne, så de nu mere direkte forbyder apps, der laver ikke-samtykkende intime billeder af virkelige personer med AI. Ændringen retter sig mod de såkaldte “nudify”-apps, som kan skabe seksualiserede billeder uden personens samtykke.
Apple skriver samtidig, at udviklere nu eksplicit skal forebygge og fjerne denne type materiale som led i deres indholdsmoderation. Udviklere, der ikke har tilstrækkelige sikkerhedsforanstaltninger, eller som ikke retter problemer efter besked, risikerer at blive fjernet fra App Store.
Reglerne er også præciseret mod apps, der ændrer karakter efter godkendelse. Apple fremhæver den type “bait-and-switch”, hvor en app bliver godkendt uden en skadelig funktion og først senere tilføjer for eksempel “nudification”. I den supplerende Apple-meddelelse står der desuden, at sådanne apps kan fjernes fra både App Store og Apple Developer Program.
Opstramningen kommer efter måneders kritik af Apple. Tidligere i år blev Grok brugt på X til at lave ikke-samtykkende seksualiserede deepfakes, også af mindreårige. Apple fjernede ikke X eller Grok fra App Store, men oplyste til senatorer, at selskabet havde truet med at fjerne Grok. Ved WWDC i juni krævede demonstranter også, at Apple fjernede Grok, X og “nudify”-teknologi fra App Store.
Der er også en bredere præcisering i reglerne: apps, der faciliterer menneskehandel eller udnyttelse af børn, skal fjernes fra App Store og blokeres fra alternativ distribution. Det gør ændringen større end en enkelt AI-sag, men materialet her viser ikke hele den opdaterede regeltekst eller præcis, hvordan Apple vil håndhæve den i praksis.
Hvad betyder det nu?
For iPhone- og iPad-brugere er den konkrete nyhed, at Apple har gjort forbuddet tydeligere og skærpet presset på udviklere, der slipper misbrug igennem eller skjuler funktioner efter godkendelse. Det næste, We❤️Apple vil holde øje med, er ikke nye formuleringer, men om Apple faktisk fjerner de apps, reglerne nu rammer.
