Gustav Lokal AI plejede at kræve en teknisk baggrund. Det gør det ikke længere. Med Ollama kan enhver, der kan installere et program, have ChatGPT-lignende AI kørende lokalt på sin maskine inden for en time. Her er hvordan.
Hvad er Ollama?
Ollama er et gratis open-source-værktøj, der gør det nemt at downloade og køre store sprogmodeller (LLMs) på din egen computer. Tænk på det som "Docker for AI-modeller" - det håndterer alt det tekniske, så du bare kan bruge modellerne.
Det understøtter Llama, Mistral, Phi, Qwen, DeepSeek og mange flere. Du downloader en model én gang, og kan bruge den frit derefter - uden internet, uden abonnement, uden at dine data forlader din computer.
Sådan installerer du Ollama (Mac/Windows/Linux)
Mac: Gå til ollama.com, hent installationsfilen og åbn den. Det installeres som ethvert andet Mac-program.
Windows: Hent installer fra ollama.com og kør den. Ollama kører nu i baggrunden og er klar til brug.
Linux: Åbn terminal og kør: curl -fsSL https://ollama.com/install.sh | sh
Det er det. Ingen konto, ingen registrering, ingen kreditkort.
Vælg din første model
Når Ollama er installeret, skal du downloade en model. Det gøres via terminal/PowerShell med kommandoen ollama pull [modelnavn].
Hvis du er ny: Start med ollama pull llama3.1. Den fylder cirka 4.7 GB, kører på næsten enhver moderne computer og er en god generel model.
Hvis du har en kraftig computer: Prøv ollama pull llama3.1:70b for bedre kvalitet, eller ollama pull mistral-large for stærkere dansk-håndtering.
Hvis du har en svag computer: Brug ollama pull phi4. Den er mindre men overraskende kompetent.
Hvordan du faktisk bruger Ollama
Den simpleste måde: åbn terminal og skriv ollama run llama3.1. Nu kan du skrive direkte til modellen, ligesom ChatGPT - bare lokalt.
Det fungerer, men det er ikke smukt. For en bedre oplevelse, brug en grafisk grænseflade.
Et grænseflade der gør det brugbart (Open WebUI)
Open WebUI er en ChatGPT-lignende webgrænseflade, der kører lokalt og bruger Ollama som motor. Det er gratis og giver dig:
En pæn samtale-grænseflade, der husker tidligere samtaler. Mulighed for at uploade dokumenter og spørge ind til dem. Skift mellem flere modeller. Brugerkonti hvis flere skal dele samme installation.
Installation kræver Docker, men det er ikke værre end at installere Ollama selv. Den komplette guide til lokal AI dækker hele opsætningen.
Hvornår skal du opgradere?
Den gratis 7B-model er rigeligt for de fleste opgaver. Du bør overveje at opgradere hvis:
Du oplever, at svarene er overfladiske eller upræcise for dit specifikke arbejde. Du har behov for at processere lange dokumenter (kontrakter, rapporter). Du vil have bedre dansk-håndtering. Du vil bruge AI til kodning eller komplekse analyse-opgaver.
Opgrade betyder typisk: en større model (kræver mere RAM), eller bedre hardware (et bedre grafikkort).
Hvornår er Ollama ikke det rigtige?
Ollama er fantastisk til personligt brug og udvikling. For en virksomhed med flere medarbejdere, hvor pålidelig drift og brugerstyring betyder noget, vil du sandsynligvis have brug for et professionelt setup oven på Ollama - eller en færdigopsat lokal AI-løsning med oplæring og support.
Det er det, jeg laver for virksomheder, der vil have lokal AI uden at skulle blive eksperter selv. Hvis det lyder relevant for din situation, så skriv til mig.