Nyheder
MixAI: jeg vælger en blanding af lokal AI og cloud-AI — og her er hvorfor
Vi behøver ikke at vælge mellem lokal AI og cloud-AI. Vi skal lære at få det bedste ud af begge.
Næsten et års praktiske eksperimenter. Hardware fra 500 til 15.000 dollar. Cloud-API’er, AI-agenter og rigtige opgaver for virksomheder og hjem. Fra nu af vil jeg dele mere om denne kombinerede tilgang til AI — en tilgang, som efter min mening har en meget lovende fremtid.
Tingene ændrer sig næsten hver dag. Men AI-teknologien har allerede nået et punkt, hvor vi kan opnå pålidelige resultater og realistisk planlægge, hvordan vi bruger den det næste år eller to.
Og jeg er nået frem til en enkel konklusion: vi behøver ikke at vælge mellem lokal AI og cloud-AI. Vi skal lære at få det bedste ud af begge.
Det handler om meget mere end blot at forbinde forskellige modeller eller orkestrere dem. Det handler om at planlægge hele systemet: hvilke opgaver der skal køre lokalt, hvilke der skal sendes til eksterne modeller, hvordan beregningsressourcer fordeles, hvilke abonnementer der giver mening, og hvilken hardware der virkelig er værd at købe.
Vi skal også planlægge vores fysiske infrastruktur — computere, servere, GPU’er, hukommelse, strømforbrug og fremtidig udvidelse.
Jeg tror, at lokal AI bliver en fast del af vores liv. Den er allerede på vej ind i smartphones, pc’er og endda eksperimentelle styresystemer.
Fire ting, der betyder mest
- Reel værdi. Førsteprioriteten er at opnå nyttige, praktiske resultater.
- Omkostninger. Hvor meget betaler vi egentlig for at løse en opgave — ikke kun for hardware, abonnementer eller tokens?
- Sikkerhed. Den fortjener sin egen kategori, uden for enhver rangordning. Personoplysninger, privatliv og kontrol over vores egen infrastruktur kræver særlig opmærksomhed.
- Brugervenlighed. Hvor nemt, hurtigt og pålideligt kan vi få arbejdet gjort?
Det er de kriterier, jeg bruger til at sammenligne teknologier og bygge mit eget setup.
Abonnementer og API’er: to verdener begynder at smelte sammen
Det er et interessant emne, som ofte bliver overset.
Cloud-AI tilgås enten via abonnementer med forbrugsgrænser eller via API’er, hvor man betaler for det, man faktisk bruger.
Hver tilgang har sin egen økonomi, sine begrænsninger og fordele. Og de skal vurderes hver for sig.
Men grænsen mellem dem begynder at blive udvisket.
Et nyligt eksempel er OpenAI. Berettigede ChatGPT Pro-abonnenter kan modtage 100 til 500 dollar om måneden i API-kreditter afhængigt af abonnementsniveau. Kreditterne skal aktiveres separat, og API-faktureringen forbliver adskilt.
Det er et ret interessant eksempel på, hvordan to prismodeller nærmer sig hinanden.
Derfor sammenligner jeg ikke kun modeller. Jeg undersøger også økonomien i abonnementer og API’er, deres begrænsninger og hvordan man kombinerer dem effektivt.
Nedenfor: de tre områder, jeg aktivt undersøger, mine hardwareeksperimenter, AI-agenter der arbejder sammen, og hvordan jeg planlægger at gøre al denne information tilgængelig for dig.
Hvad jeg undersøger — og hvad der kommer
Mine tre vigtigste forskningsområder
1. Lokale AI-servere
Jeg eksperimenterer med hardware fra kun 500 dollar, men til seriøs praktisk brug vil jeg anbefale omkring 1.000 dollar.
Lige nu har jeg adgang til systemer til en værdi af op til 15.000 dollar samt lejede, langt dyrere GPU’er til at teste modeller, som det ikke giver økonomisk mening at køre på egen hardware.
Rå modelydelse er ikke min højeste prioritet. Hardware og software er blot værktøjer.
Det, der betyder noget, er, hvad disse systemer faktisk kan gøre for virksomheder og hjem, hvor pålideligt de fungerer, og hvornår lokal beregning giver mere økonomisk mening end cloud.
2. Cloud-modeller og AI-API’er
Fra billige API’er, herunder kinesiske modeller, til frontier-AI. Jeg sammenligner evner, begrænsninger, reelle omkostninger og integration med lokale systemer. Abonnementer eller API’er med betaling efter forbrug er en anden vigtig faktor — den stærkeste model er ikke altid det klogeste økonomiske valg.
3. AI-agenter
Ud over deres åbenlyse fordele er jeg særligt interesseret i samarbejde mellem uafhængige multiagent-økosystemer. Mine systemer Hermes og Grokbot arbejder allerede sammen — to separate økosystemer, hver med deres egne agenter og værktøjer.
AI møder den fysiske verden
En af mine vigtigste prioriteter er at forbinde AI med prisvenlige smarthjem, kontorer, servere, computere og hverdagsenheder.
Jeg undersøger, hvor autonome, sikre, pålidelige og prisvenlige disse systemer kan blive — især for privatpersoner og små virksomheder.
AI-programmering træder i baggrunden
Jeg vil fokusere mindre på AI-programmering. Ikke fordi det betyder mindre, men fordi det er ved at blive endnu et værktøj.
Målet er ikke at skrive kode. Målet er at få tingene gjort.
Jeg er interesseret i komplette, virkelige arbejdsgange, som AI kan håndtere med minimal menneskelig involvering.
Maksimal værdi, rimelige omkostninger
Jeg forsøger ikke at bevise, at lokal AI eller cloud-AI er bedst. Nogle gange er det rigtige valg en pc til 1.000 dollar, en server til 10.000 dollar, lejet GPU-tid, en billig API eller et abonnement på en frontier-model.
Det, der tæller, er prisen på slutresultatet — ikke de værktøjer, der blev brugt til at nå det.
Hvad der kommer
Mine opslag har hidtil mest været spredte opdateringer om enkelte eksperimenter, nogle gange rå og ustrukturerede. Jeg vil gøre dem til et sammenhængende, forbundet billede af AI-infrastruktur — hardware, modeller, agenter, omkostninger og reelle resultater. Detaljerede tekniske specifikationer og diagnostik vil blive indsamlet automatisk og delt separat, sandsynligvis via links.
Jeg planlægger også at give dig direkte adgang til mine AI-agenter. Du vil kunne spørge dem om alt vedrørende mine eksperimenter, min hardware, mine konfigurationer og resultater. De svarer ud fra de indsamlede data — og hvis de ikke kan, træder jeg personligt til.
Mit mål er at skabe et åbent, organiseret og virkelig nyttigt billede af, hvad AI kan opnå med forskellige budgetter.
Jeg kombinerer lokal AI og cloud-AI, planlægger ressourcer klogt og fokuserer på reelle resultater for virksomheder og hjem.
Det er det, jeg arbejder på — og det, jeg vil blive ved med at dele med dig.
Vælg ikke side. Kombiner det bedste.