Lokala AI-modeller vs molntjänster — vad väljer du när integritet spelar roll?

Sedan 2024 har det blivit praktiskt möjligt att köra kompetenta AI-modeller direkt på en vanlig bärbar dator, utan att data skickas till externa servrar. Det öppnar ett nytt val: ska du använda en moln-AI som ChatGPT eller Claude, eller köra en lokal modell via verktyg som Ollama, LM Studio eller Jan?

Hur lokala modeller fungerar: du laddar ned en modellvikt (som kan vara alltifrån 4 till 70 miljarder parametrar) och kör den på din CPU eller GPU. Modeller som Llama 3, Mistral, Phi-4 och Gemma 3 är fritt tillgängliga för nerladdning. Verktyget Ollama gör det tekniskt enkelt — en kommandorad så är modellen igång, med ett lokalt webbgränssnitt eller API.

Integritetsaspekten: med en lokal modell lämnar ingen av dina texter datorn. Det är relevant om du arbetar med konfidentiella affärsdokument, medicinsk data, advokatmaterial, eller om ditt företag lyder under GDPR-krav som begränsar dataprocessning utomlands. Molntjänster som ChatGPT behandlar dina inmatningar på OpenAIs servrar — för gratisversionen kan de användas för träning, för betalversioner gäller striktare villkor.

Nackdelarna med lokala modeller: de kräver bra hårdvara (en modern Mac med M-chip eller en PC med dedikerat grafikkort ger bäst prestanda), de är långsammare än molnet för komplexa uppgifter, och de är flera versioner bakom de senaste kommersiella modellerna. En Llama 3-70B kan lösa de flesta skrivuppgifter men når inte nivån av GPT-4o eller Claude 3.7 Sonnet i komplexa analyser.

For svenska företag under GDPR: om du behandlar personuppgifter via en AI-tjänst måste du ha ett databehandlingsavtal (DPA) med leverantören och vara säker på att data inte behandlas i länder utanför EU/EEA utan skyddsåtgärder. OpenAI, Anthropic och Google erbjuder alla EU-kompatibla avtal för sina betalstjänster. En lokal modell kringgår frågan helt — inga uppgifter lämnar organisationen.