Hvor meget RAM skal din bærbare have for at køre AI lokalt?

En lille AI-model, der kører på din egen bærbare computer, kan allerede læse tekst, forstå billeder og svare på dine spørgsmål uden at du behøver en konto hos en skytjeneste. Hent filen qwen3.5:4b-q4_K_M (Qwen) på 3,4 GB i aften, så kan modellen gøre netop det på en helt almindelig bærbar computer med 16 GB RAM. Det er en LLM, altså en stor sprogmodel. Hent den med Ollama, stil ét spørgsmål med 4K-kontekst, og så kører du en rigtig AI-model lokalt på hardware, du allerede ejer. Den kan læse tekst og billeder, og her handler det om inferens, ikke træning: Ingen lærer modellen noget nyt, den svarer bare.

Et upræcist "AI PC"-mærkat på æsken er ikke en specifikation. Det er RAM, den hukommelse din GPU kan bruge, lagerplads og reel softwaresupport derimod. 16 GB hukommelse er et reelt udgangspunkt for små AI-modeller. Det er hverken et minimum, man bare kan afskrive, eller et løfte om alt det, et datablad reklamerer med. Mere hukommelse giver mere kontekst og bedre plads til multitasking. 16 GB er nok til at komme i gang.

En models downloadstørrelse og dens RAM-forbrug under kørsel er to forskellige tal, og at blande dem sammen er den klassiske fejl, når man køber bærbar til AI. De 3,4 GB, du downloader til qwen3.5:4b-q4_K_M, er filen på disken. At indlæse den kræver rigtig hukommelse. Det gør kontekstvinduet også, altså den løbende samtale modellen holder styr på, mens den svarer, kaldet KV-cache. Det samme gælder motoren selv, plus alt det, dit styresystem og andre apps allerede bruger.

Ollama indlæser som standard en kontekst på 4.096 tokens, og du kan hæve den. Kører du flere forespørgsler samtidig, stiger behovet for konteksthukommelse omtrent med antallet af parallelle forespørgsler. En models datablad kan annoncere et kontekstvindue på 128K eller 256K tokens, men se det som modellens loft, ikke som et løfte om, at din bærbare med 16 GB har råd til at bruge det hele på én gang.

Apple Silicon-chips bruger unified memory: CPU og GPU trækker fra den samme pulje på 16, 24 eller 32 GB, så der er ikke en separat grafikhukommelse, der pludselig slipper op. En typisk bærbar med Windows eller Linux og dedikeret NVIDIA-GPU fungerer anderledes. System-RAM og GPU’ens egen VRAM er to adskilte puljer, og 16 GB system-RAM plus en GPU med 8 GB er ikke én samlet pulje på 24 GB, som en model frit kan bruge.

Når en model ikke kan være helt på GPU’en, kører en del af den på CPU’en i stedet. Den delvise offload kan gøre en model, der teknisk set kan indlæses, mærkbart langsommere i brug. Kør , så kan du se den præcise CPU/GPU-fordeling for det, der er indlæst lige nu.

Kapacitet er kun halvdelen af historien. Hastigheden på hukommelsen betyder mindst lige så meget: Apple oplyser 153 GB/s hukommelsesbåndbredde på MacBook Air M5, og båndbredde, ikke kun størrelse, er en vigtig grund til, at unified memory føles hurtigt i praksis og ikke bare lige akkurat slår til.

Kvantisering er forklaringen på det download på 3,4 GB: Når en models vægte gemmes med lavere numerisk præcision, bliver filen mindre, og Qwen3.5’s egen 9B-model viser spændet tydeligt. Den samme 9B-model fylder 6,6 GB som Q4_K_M, 11 GB som Q8_0 og 19 GB i fuld BF16-præcision. Samme model, samme antal parametre, tre meget forskellige downloadstørrelser. Og igen: Det er downloadstørrelsen, ikke den RAM der kræves under kørsel.

Lavere præcision koster som regel noget kvalitet, men hvor meget afhænger af opgaven, ikke af en fast procentsats. En praktisk detalje, der er god at kende, før du vælger Qwen som din første model: Nogle brugere oplever, at dens "tænke"-trin giver en mærkbar forsinkelse, før svaret kommer, sammenlignet med modeller der svarer mere direkte. Det er værd at prøve begge stilarter på dine egne opgaver i stedet for at gå ud fra, at den ene bare er bedre.

NVIDIAs GPU’er til bærbare deler navn med desktopkort, og det navn fortæller mindre, end man skulle tro. RTX 5060 Laptop GPU kommer med 8 GB GDDR7-hukommelse og et oplyst effektområde på 45 til 100 watt. RTX 5070 Ti Laptop GPU kommer med 12 GB GDDR7 og 60 til 115 watt. Et resultat online for en desktop-RTX 5070 Ti er ikke det samme som et resultat for en RTX 5070 Ti Laptop GPU, uanset hvad navnet antyder.

Der gemmer sig en anden fælde i det samme navn. To bærbare kan begge have en "RTX 5070 Ti Laptop GPU" og stadig yde forskelligt under vedvarende belastning: Et tyndt og let kabinet og et tykkere og tungere håndterer varme forskelligt, og det samme GPU-navn er ingen garanti for samme hastighed i praksis, når blæserne har kørt et stykke tid. Tjek altid den præcise VRAM-mængde og den bærbares egen effektkonfiguration, ikke kun GPU-familiens navn.

AMD’s Ryzen AI Max+ 395-processor understøtter op til 128 GB LPDDR5x-systemhukommelse, afhængigt af hvordan den færdige bærbar er konfigureret. Det er en anden hukommelsesarkitektur, som er værd at kende, og den kommer med en reel udfordring: På Ollamas ROCm-supportliste til Linux står denne chip nævnt, mens den aktuelt ikke gør på ROCm-listen til Windows.

Det er en grund til at kontrollere den præcise installerede hukommelse, operativsystemet, GPU-backend, driver og Ollama-adfærd på en konkret bærbar, før man anbefaler den, ikke en grund til at afvise chippen på forhånd. Se derfor en AMD-bærbar med meget hukommelse som en interessant alternativ arkitektur, der fortjener grundig research, ikke som det oplagte første køb for en, der er ny i lokal AI.

Ollama er den enkleste måde at få en model til at svare på din egen maskine: Hent en model, kør den, og så har du en lokal server, der besvarer forespørgsler, uden cloudkonto for en downloadet model. Det er værktøjet bag alle eksemplerne her.

LM Studio er det grafiske alternativ med sin egen modelbrowser og chatfunktion. Det oplyser også sine egne minimumskrav: mindst 16 GB RAM på Mac eller Windows, AVX2-understøttelse krævet på Windows x64 og 4 GB dedikeret VRAM anbefalet på Windows. Det er et emne for sig at sætte begge dele rigtigt op.

Og en vigtig detalje, før du stoler på ét enkelt hastighedstal, du har læst online: Det officielle værktøj llama-bench skelner mellem hastigheden på promptbehandling og generationshastighed og viser variation på tværs af gentagne testkørsler i stedet for ét enkelt tal. Et forumindlæg med ét tal for tokens pr. sekund siger sjældent, hvilken af de to målinger der er tale om, eller hvor mange gange testen er kørt.

Før du køber eller opgraderer specifikt til lokal AI, så tjek detaljerne i stedet for markedsføringen.

Præcis GPU-model og VRAM. Ikke kun GPU-familiens navn, men den nøjagtige variant til bærbare og dens egen hukommelsesmængde, fordi det samme navn kan dække over forskellig VRAM.

Fastloddet eller opgraderbar RAM. Nogle bærbare giver dig mulighed for at tilføje mere hukommelse senere, mange moderne tynde og lette modeller gør ikke. Du skal vide, hvilken type du køber.

Ledig SSD-lagerplads. Modeldownloads spænder fra under en gigabyte til langt over ti, og en voksende samling fylder hurtigt sammen med dine andre filer.

Termisk adfærd under vedvarende belastning. En model, der besvarer ét spørgsmål, og en bærbar, der håndterer flere forespørgsler i træk, er to forskellige test. Blæserstøj og throttling efter gentagne prompts fortæller mere end en enkelt hurtig demo.

Understøttelse af styresystem og drivere. Bekræft, at netop din kombination af GPU-backend og operativsystem understøttes af Ollama eller LM Studio, før du går ud fra det.

NPU-tallet i TOPS på æsken er ingen garanti for gennemløb. Det er et markedsføringstal, ikke et testet resultat fra den motor, du faktisk vil bruge. Et upræcist "AI PC"-mærkat erstatter ikke nogen af tjekpunkterne ovenfor.

Skal jeg have en dedikeret GPU for at køre AI lokalt?

Nej. En lille model kan køre på CPU eller integreret grafik på mange bærbare med 16 GB, bare med større forskelle i hastighed end på en bærbar med dedikeret GPU. Start med en 2-4B-model, før du går ud fra, at du overhovedet har brug for dedikeret grafik.

Virker 8 GB RAM?

Ikke komfortabelt til de modeller, der er gennemgået her. 16 GB er det realistiske udgangspunkt, når man tager højde for, at modellen, dens kontekstvindue, motoren og dit styresystem deler den samme hukommelse.

Er det samme at køre en model lokalt som at træne en?

Nej. Alt ovenfor handler om inferens: at stille spørgsmål til en allerede trænet model. Træning bygger en model fra bunden og kræver langt mere hardware end nogen af de bærbare her.

Garanterer mere RAM hurtigere svar?

Nej. Mere hukommelse giver plads til større modeller, længere kontekst og flere åbne apps, men den konkrete hastighed afhænger af hukommelsesbåndbredde, GPU-backend og den konkrete model, ikke kun af hukommelsens størrelse.

Er mine data private, når en model kører lokalt?

Ja, i den forstand at dine prompts bliver på din egen maskine i stedet for at blive sendt til en cloududbyder. Ollama binder som standard til din egen bærbare og sender ikke forespørgsler andre steder hen, medmindre du bevidst sætter cloudadgang op.