Apple og Google er blevet bedt om at fjerne 13 AI-apps, der kan lave ikke-samtykkede nøgenbilleder. Sagen rammer App Store direkte og sætter fokus på, hvor langt platformene skal gå for at stoppe misbrug. For Apple-brugere handler det både om sikkerhed, tillid og ansvar i App Store.
En San Francisco City Attorney har sendt cease-and-desist-breve til de to selskaber og kræver, at appsene fjernes fra både App Store og Play Store. Ifølge henvendelsen er de markedsført som face-swap-værktøjer, men bruges til at “klæde folk af” på billeder af rigtige personer.
Det er en ny påmindelse om, at App Store ikke kun er et spørgsmål om bekvemmelighed, men også om kontrol. Når Apple tager en andel af køb i appen, bliver selskabet samtidig trukket ind i debatten om, hvor meget ansvar platformen har for, hvad udviklere faktisk tilbyder.
Apple har allerede tidligere strammet sine retningslinjer for udvikleransvar i forbindelse med pornografisk indhold, og både Apple og Google har fjernet lignende apps før, når de er blevet flaget af forskere. Google oplyser ifølge WIRED, at selskabet har slettet “hundredvis” af apps med nudifying-funktioner, herunder de fem nævnte i brevet.
For Apple-brugere er pointen enkel: App Store bliver igen testet på, om den kan holde skadelige AI-apps ude, før de får fodfæste. Det her handler ikke om en ny funktion, men om platformskontrol og omdømme.
Det vigtigste nu er ikke, om endnu en app forsvinder i dag, men om Apple strammer kontrollen nok til at forhindre, at den slags værktøjer hele tiden dukker op igen. Hvis du bruger App Store som et tegn på kvalitet og tryghed, er det netop den tillid, der er på spil her.
Hvad betyder det nu?
For almindelige brugere er der ingen grund til at jagte disse apps. For Apple er sagen derimod endnu en prøve på, om App Store-reglerne kan håndhæves hurtigt nok, når AI-værktøjer bliver misbrugt til noget klart skadeligt.
Vi følger især, om Apple reagerer med flere fjernelser eller nye krav til udviklere. Det vil være den mest direkte indikator for, hvor aggressivt selskabet vil beskytte App Store mod den type AI-indhold fremover.
