We❤️Apple svarer kort: Ollama til Mac kan nu lave tekst om til tale lokalt på Apple Silicon. Funktionen er tilgængelig nu i Ollama 0.40.11 eller nyere, og den første model er Phonon fra Gradium. For Mac-brugere betyder det, at endnu en type AI-model kan køre direkte på maskinen i stedet for kun som tekst i terminalen eller via skyen.
Ollama er allerede kendt som et værktøj til at hente og køre åbne AI-modeller lokalt på Mac, og på macOS bruger appen Apples MLX-framework. Det er relevant i en Mac-sammenhæng, fordi MLX er lavet til Apple Silicon og udnytter den fælles hukommelse i chippen. Ollama beskriver selv den nye udvidelse som første gang, platformen understøtter talegenerering.
Den konkrete nyhed er støtte til Phonon, en familie af små tekst-til-tale-modeller udviklet af Gradium. Talen bliver genereret i realtid, så man kan høre svaret, mens det bliver skabt, i stedet for at vente på hele resultatet. Windows- og Linux-understøttelse er annonceret som noget, der kommer senere, men lige nu er det macOS, der har funktionen først.
Der er også et par praktiske rammer, som er værd at kende. De nye talemodeller kræver en Apple Silicon Mac og Ollama 0.40.11 eller nyere. Phonon understøtter fem sprog: engelsk, fransk, tysk, spansk og portugisisk. Der findes både separate modeller til hvert sprog og en flersproget model, og nogle modeller tilbyder forskellige stemmer og accenter, blandt andet amerikansk og britisk engelsk.
Ollama oplyser desuden, at platformen i tests på en MacBook Pro med M5 Max leverede 35 procent hurtigere talegenerering end Gradiums egen implementering, samtidig med at word error rate matchede referenceimplementeringen i Hugging Face Transformers. Det er Ollamas egne testtal, så de siger mest noget om potentialet på kraftig Mac-hardware og ikke nødvendigvis om alle Mac-modeller i praksis.
Hvad betyder det nu?
For Mac-brugere, der allerede eksperimenterer med lokale modeller, er nyheden enkel: Ollama går fra kun at være et tekstværktøj til også at kunne levere tale direkte på Mac. Det udvider, hvad appen kan bruges til på Apple Silicon her og nu. Det, vi stadig ikke ved, er blandt andet, hvordan oplevelsen er på mindre kraftige Macs, og om flere sprog kommer senere. Indtil videre er dette en præcis, men afgrænset Mac-nyhed.
