Genom hela den här serien har jag återkommit till samma poäng: det säkraste sättet att använda AI är att köra den själv, på din egen dator, utan att skicka en enda byte till någon annans moln. Nu ska jag visa hur det faktiskt går till. Det är enklare än du tror, det är gratis, och det fungerar förvånansvärt bra även på vanlig hårdvara.
Varför köra AI lokalt?
- Integritet: ingenting lämnar din maskin. Perfekt för känsliga texter, kod och dokument.
- Inga kostnader per fråga: när modellen väl är nedladdad kör du så mycket du vill, gratis.
- Funkar offline: inget internet behövs när modellen är på plats.
- Du äger uppställningen: ingen leverantör som ändrar pris, drar in tjänsten eller läser med.
LM Studio – den enklaste vägen in
Mitt favoritverktyg för det här heter LM Studio. Det är ett gratisprogram till Windows, Mac och Linux som gör det löjligt enkelt att hitta, ladda hem och köra öppna modeller lokalt. Du söker upp en modell, klickar ladda ner, och chattar sedan med den i ett gränssnitt som påminner om ChatGPT – fast allt sker på din egen dator.
På min MacBook har jag flera modeller liggande sida vid sida, redo att användas. Just nu kör jag bland annat Mistral, en Llama-modell från Meta och StarCoder för kod – fyra modeller som tillsammans tar runt 47 GB diskutrymme. Jag växlar mellan dem beroende på uppgift, precis som man väljer rätt verktyg ur en låda.
Vilka modeller ska man välja?
Det fina är att alla de öppna modellerna jag skrivit om tidigare finns att hämta:
- Llama (Meta) och Mistral – pålitliga allroundmodeller, bra startpunkt.
- Qwen – finns i många storlekar och är riktigt bra på flera språk.
- DeepSeek – mindre, komprimerade varianter går att köra hemma.
- StarCoder och andra kodmodeller – för dig som vill ha en kodassistent utan moln.
Hemligheten heter kvantisering – en teknik som krymper modellen så den får plats i minnet på en vanlig dator, mot en liten kvalitetsförlust. Det är därför du kan köra förvånansvärt kapabla modeller på en helt vanlig laptop.
Hur mycket dator krävs?
Mindre än du tror – men mer minne hjälper. En modern laptop med rejält med RAM klarar de mindre och mellanstora modellerna bra. Vill du köra de större och snabbare lönar det sig med ett kraftigt grafikkort. Min stationära dator med ett rejält GeForce RTX-kort sväljer betydligt tyngre modeller än MacBooken, och svarar dessutom blixtsnabbt. Men börja inte med att köpa hårdvara – börja med att testa på det du redan har.
Börja inte med att köpa hårdvara – börja med att testa på det du redan har.
Ollama för den som gillar terminalen
Föredrar du kommandoraden är Ollama det självklara alternativet. Ett kommando laddar ner och startar en modell, och du kan enkelt koppla in den i egna skript och verktyg. Jag använder Ollama på servern och LM Studio på skrivbordet – de kompletterar varandra fint.
Min dom
Lokal AI är inte längre något för nördar med serverhall i källaren. Med LM Studio är du igång på en kvart, och du får en kompetent assistent som varken kostar pengar per fråga eller läcker dina data. Den slår inte de absolut största molnmodellerna på de svåraste uppgifterna – men för det dagliga, och för allt som är det minsta känsligt, är det här jag landar. Det är den perfekta avslutningen på en serie som egentligen handlat om en enda sak: att använda AI på dina villkor.
🤖 AI-sammanfattning
Varför köra AI lokalt på sin egen dator?
För integritet (ingen data lämnar maskinen), inga kostnader per fråga, att det fungerar offline och att ingen leverantör kan ändra pris eller läsa med.
Vad är LM Studio?
Ett gratisprogram för Windows, Mac och Linux som gör det enkelt att hitta, ladda hem och köra öppna AI-modeller lokalt, i ett gränssnitt som liknar ChatGPT.
Vilka modeller kan man köra lokalt?
Öppna modeller som Llama (Meta), Mistral, Qwen, mindre DeepSeek-varianter och kodmodeller som StarCoder. Tekniken kvantisering krymper modellerna så de får plats på en vanlig dator.
Hur kraftig dator behövs?
Mindre än många tror. En modern laptop med mycket RAM klarar mindre och mellanstora modeller; ett kraftigt grafikkort (t.ex. GeForce RTX) krävs för de större och snabbare. Börja med hårdvaran du redan har.
