Google har lanserat Gemma 4, en ny version av sina öppna AI-modeller. Gemma 4 kommer i fyra storlekar och är optimerad för lokal användning. Google har också bytt till Apache 2.0-licens för att ge utvecklare större frihet.

Gemma 4 är designad för att köras på lokala maskiner, även på konsument-GPU:er om modellerna kvantifieras. De större modellerna, 26B Mixture of Experts och 31B Dense, kan köras på en enda Nvidia H100 GPU om de inte kvantifieras.

Google har fokuserat på att minska latency för att ta tillvara på Gemma 4:s lokala bearbetning. 26B Mixture of Experts-modellen aktiverar endast 3,8 miljarder av sina 26 miljarder parametrar i inferensläge, vilket ger den högre tokens-per-sekund än liknande modeller.

Vad innebär detta för svensk vård? Med Gemma 4 och dess öppna licens kan svenska vårdutvecklare och forskare få tillgång till avancerad AI-teknik för att förbättra patientvården och utveckla nya behandlingsmetoder.