OpenAI og Sam Altman er blevet ramt af 30 nye søgsmål. Sagerne hævder, at ChatGPT gav den mistænkte i Tumbler Ridge-skyderiet støtte og opmuntring. For Apple-brugere er sagen endnu et tegn på, hvor hårdt AI-sikkerhed nu bliver gransket.
De nye søgsmål blev indgivet i en føderal domstol i Californien og kommer fra elever, lærere og skolens rektor. De ligger tæt op ad tidligere sager fra ofrenes familier og bygger på samme hovedpåstand: at OpenAI ikke reagerede hurtigt nok, efter at det automatiske gennemgangssystem havde markeret samtaler om våbenvold.
Ifølge søgsmålsmaterialet anbefalede sikkerhedsteamet, at OpenAI kontaktede canadiske myndigheder. Alligevel hævdes det, at ledelsen valgte at tie stille af hensyn til selskabets omdømme og økonomi. OpenAI afviser anklagerne. Jason Kwon, selskabets chef for strategi, kalder påstandene falske og siger, at de ansvarlige prioriterer sikkerhed, og at der ikke var politiske eller PR-mæssige hensyn i spil.
For danske iPhone-, iPad- og Mac-brugere er den praktiske pointe klar: AI-assistenter bliver ikke længere kun vurderet på svarenes kvalitet, men på hvordan de håndterer risikable samtaler. Det gælder også de tjenester, mange bruger i hverdagen til skrivning, idéer og søgninger. Når en chatbot bliver trukket ind i en sag som denne, vil kravene til logning, moderation og nødprocedurer kun blive skarpere.
Sagen er samtidig større end Tumbler Ridge. OpenAI står også over for en separat sag fra delstaten Florida, som beskylder selskabet for at have hjulpet masseskyderier, herunder angrebet ved Florida State University. Det placerer OpenAI midt i en juridisk og politisk kamp om, hvor langt ansvar for generativ AI kan række.
For Apple-brugere betyder sagen, at AI-sikkerhed bliver en central del af konkurrencen mellem platforme. Når tjenester som ChatGPT bruges direkte på iPhone, iPad og Mac, bliver tillid til moderation og ansvar lige så vigtig som funktioner og hastighed.
Hvad betyder det nu?
We❤️Apple ser især to ting værd at holde øje med: om flere myndigheder følger efter med nye sager, og om OpenAI ændrer sin håndtering af konti, der flagges for voldeligt indhold. Begge dele kan få betydning for, hvordan AI-tjenester bliver bygget ind i Apple-økosystemet fremover.
Indtil der kommer mere, er det her først og fremmest en sag om ansvar. Ikke om en ny funktion eller en ny model, men om hvor meget risiko en AI-tjeneste kan bære, før den bliver et juridisk problem.
