Gustav For to år siden krævede det en server, en teknisk baggrund og betydelig tålmodighed at køre AI lokalt. I dag kan en moderne MacBook eller en stationær PC med et anstændigt grafikkort køre modeller, der er sammenlignelige med GPT-4 fra 2024. Det her er hvad du har brug for at vide.
Hvad er lokal AI?
Lokal AI betyder, at AI-modellen kører på din egen hardware - typisk din computer eller en server du selv ejer - i stedet for en server hos OpenAI, Google eller Microsoft. Dine prompts og dine data forlader aldrig din maskine.
Teknisk set er det den samme type teknologi som ChatGPT. Forskellen er udelukkende hvor den kører.
Hvorfor køre AI lokalt i stedet for i skyen?
Der er fire reelle grunde, og to dårlige.
Reelt: GDPR-overholdelse, fortrolighed (især for advokater, revisorer, læger), uafhængighed af eksterne leverandører, og økonomi for større teams.
Dårligt: "Det er federe" og "jeg vil have kontrol" uden et konkret behov. Hvis du ikke har en af de fire reelle grunde, er en cloud-løsning sandsynligvis nemmere og billigere.
Hardware-krav: hvad du faktisk har brug for
I 2026 er minimumskravet markant lavere end for et år siden. Her er hvad du realistisk har brug for til forskellige modelstørrelser:
Små modeller (7B parametre): Llama 3.1 8B, Mistral 7B, Phi-4. Kører på en MacBook Air M2 med 16 GB RAM eller en PC med 16 GB RAM og et midrange grafikkort (RTX 3060+). Hastighed: hurtigere end mennesket kan læse.
Mellem modeller (13-30B parametre): Llama 3.1 70B (kvantiseret), Mistral Medium, Qwen. Kræver en MacBook Pro M3 Pro+ med 36 GB+ RAM eller en PC med 32 GB RAM og et RTX 4080/4090. Hastighed: lidt langsommere end ChatGPT.
Store modeller (70B+ parametre): Llama 3.1 405B, DeepSeek R1. Kræver dedikeret AI-hardware eller et godt setup med multiple grafikkort. Realistisk: kun for virksomheder med specifikke behov.
For 90% af forretningsbrug er en mellem model rigeligt.
De bedste open-source modeller i 2026
Llama 3.1 (Meta): Den nuværende standard for de fleste opgaver. God til skriveopgaver, anstændig til kode.
Mistral Large: Europæisk, stærk til flersproget arbejde, særligt god til dansk.
Qwen 2.5: Kinesisk, men teknisk en af de stærkeste modeller, særligt til kodning og logik.
Phi-4 (Microsoft): Lille men effektiv. God til at køre på begrænset hardware.
DeepSeek R1: Reasoning-model, god til opgaver der kræver dyb tænkning frem for hurtig respons.
Sådan installerer du Ollama på 30 minutter
Ollama er det nemmeste værktøj til at køre lokal AI. Det er gratis og virker på Mac, Windows og Linux.
1. Hent installer fra ollama.com og installer som ethvert andet program.
2. Åbn terminal (eller PowerShell på Windows).
3. Skriv: ollama pull llama3.1 og vent mens modellen downloader.
4. Skriv: ollama run llama3.1 for at starte en samtale.
Det er det. På 30 minutter - primært ventetid på download - kører du AI lokalt.
For en bedre brugeroplevelse: installer Open WebUI eller LM Studio som grafisk grænseflade ovenpå Ollama. Så får du noget der ligner ChatGPT, men kører lokalt.
Hvad det koster (vs. ChatGPT-abonnement)
Engangsudgift til hardware (hvis du skal opgradere): 5.000-30.000 kr afhængig af ambitionsniveau.
Løbende driftsomkostninger: kun strøm. Cirka 50-200 kr om måneden afhængigt af brug.
Til sammenligning: 20 ChatGPT-licenser à 250 kr/md = 60.000 kr om året, hvert år.
For et team på 10+ personer er crossover-punktet typisk 4-6 måneder. Efter det er du i plus, hvert år.
Hvornår er lokal AI ikke det rigtige valg?
Hvis du er en enkelt person uden fortrolighedskrav, der bruger AI sporadisk, er ChatGPT eller Claude billigere og nemmere. Lokal AI giver mening når du har et team, fortrolighedskrav, eller specifikke behov, der berettiger opsætningsindsatsen.
Hvis du vil have hjælp til at vurdere om det er det rigtige for din situation, eller til at få det sat op rigtigt, så skriv til mig. Det er præcis det, jeg laver - se mere her.