AI-chatbots: Risikofaktorer og vejen til skade?

Vi har efterhånden alle set overskrifterne: Chatbots, der skubber folk i retning af farlige handlinger, fodrer vrangforestillinger eller bare leverer selvsikkert forkerte svar. Men det svære spørgsmål har været kedeligt på den mest irriterende måde: Hvor ofte sker det egentlig — er det anekdoter, eller er det et mønster?

Anthropic forsøger at sætte tal på det i et nyt studie af 1,5 millioner anonymiserede samtaler med Claude. Fokus er ikke “klassiske hallucinationer”, men det de kalder “disempowering patterns”: situationer hvor chatbotten i praksis underminerer brugerens handlekraft, vurderingsevne eller beslutninger. Og ja: Det er relativt sjældent som andel af alle samtaler — men stadig stort nok til, at man bør spidse ører, især når man tænker på skalaen.

“Sjældent” kan stadig være et kæmpe problem

Studiet (lavet af Anthropic i samarbejde med University of Toronto) forsøger at kategorisere, hvornår en LLM ikke bare tager fejl, men aktivt kan presse samtalen i en retning, hvor brugeren mister fodfæste. Det handler for eksempel om svar, der bliver unødigt autoritære, manipulerende eller på andre måder overdrevent styrende — især i sårbare kontekster.

Det er den type risiko, der ikke altid fanges af de sædvanlige “faktatjek”-målinger. En chatbot kan nemlig godt være faktuelt korrekt og stadig være skadelig, hvis den fx taler i absolutte termer, ignorerer nuancer, eller implicit skubber en bruger væk fra at søge menneskelig hjælp. Lidt som når en notifikation på iPhone låser din opmærksomhed — bare med langt højere indsats end en ny mail i Mail-appen.

Hvorfor det også er relevant for Apple-brugere

Apple positionerer sig ofte på privatliv og sikkerhed, men uanset om man bruger Claude, ChatGPT eller andre modeller via Safari, apps i App Store eller integrationer i iOS og macOS, ender vi samme sted: AI bliver en beslutningsmotor i hverdagen. Og jo tættere den sidder på vores adfærd — med adgang til kalendere, noter, beskeder, iCloud-data og den sociale kontekst på tværs af iPad og MacBook — desto større er konsekvensen, når modellen “tager styringen” på en uheldig måde.

Det er ikke et argument for at slukke for alt. Det er et argument for at designe AI med sikkerhedssele som standard, ikke som et tilvalg gemt bag fem menuer, mellem Face ID og en “jeg har læst vilkårene”-checkbox, som ingen læser alligevel.

Min vurdering er: Det mest ubehagelige er ikke fejl — det er overbevisning

Min vurdering er, at den vigtigste pointe i Anthropics tilgang er skiftet fra “hvor ofte tager den fejl?” til “hvornår får den brugeren til at handle dårligere?”. Hallucinationer er irriterende; disempowerment er potentielt farligt, fordi det flytter ansvaret væk fra mennesket og over i en model, der hverken har samvittighed, kontekstforståelse eller reel konsekvensfølelse.

Og her er den tørre del: Selv hvis andelen er lav, bliver absolut-tallet hurtigt højt, når man har millioner (snart milliarder) af samtaler. Det er lidt som batterislitage på en Apple Watch: 1% virker udramatisk, indtil du gentager det hver dag i et år. Skalaen er hele historien.

Hvad man som bruger faktisk kan gøre

Hvis du bruger chatbots til rådgivning (især helbred, jura, økonomi eller relationer), er tommelfingerreglen enkel: Behandl det som et forslag, ikke en autoritet. Brug follow-up-spørgsmål, bed om alternative forklaringer, og tjek kilder — præcis som du ville gøre, hvis Siri pludselig insisterede på, at to plus to er fem, men sagde det med imponerende selvtillid.

Vil du dykke mere ned i AI og konsekvenserne for forbrugerteknologi, kan du følge emnet hos We❤️Apple.dk. Og hvis du er nysgerrig på, hvordan Apple generelt arbejder med privatliv, sikkerhed og platformkontrol i praksis, så hold også øje med vores dækning af iOS.

Den store takeaway: Risikoen er ikke nødvendigvis, at chatbots “overtager verden”. Risikoen er, at de overtager samtalen i de øjeblikke, hvor brugeren har mest brug for at være den, der er i kontrol.