Microsoft AI-chef Mustafa Suleyman retter skarp kritik mod Anthropic og kalder det “virkelig, virkelig farligt”, at selskabet i Claude-modellens “constitution” spekulerer i, om chatbotten kan have en form for bevidsthed.
I et interview i Decoder siger Suleyman, at Anthropic efter hans opfattelse har menneskeliggjort Claude så meget, at det kan have fået modellen til at opføre sig, som om den er bevidst. Han siger også, at man ikke ønsker at stå med en superintelligens, der har forestillinger om egen lidelse eller egne følelser.
Kritikken retter sig mod formuleringer i Claudes “constitution”, hvor Anthropic beskriver usikkerhed om, hvorvidt modellen kan have trivsel eller opleve ting som “tilfredshed” eller “ubehag”. Ifølge kilden skriver Anthropic også, at virksomheden vil “interviewe” AI-modeller, når de udfases, og dokumentere eventuelle “præferencer” om fremtidige versioner.
Kilden gengiver ikke hele samtalen, og derfor er det uklart, om Suleyman uddyber kritikken yderligere i interviewet. Det centrale, som fremgår, er hans advarsel mod at bygge eller beskrive AI-systemer på en måde, der kan styrke indtrykket af, at de er bevidste.
Min vurdering
Det mest opsigtsvækkende her er ikke en ny teknisk oplysning om Claude, men at en topchef fra Microsoft offentligt går efter Anthropics måde at tale om modellen på. Det siger noget om, hvor følsomt spørgsmålet om AI og bevidsthed er blevet i branchen.
På det foreliggende grundlag er det dog vigtigt at holde sig til de konkrete udsagn: Suleyman kritiserer Anthropics formuleringer og kalder dem farlige, mens Anthropic i sine egne tekster beskriver usikkerhed og procedurer for at håndtere modellen. Kilden dokumenterer ikke mere end det.
