Nyheter
MixAI: jag väljer en blandning av lokal AI och moln-AI — här är varför
Vi behöver inte välja mellan lokal AI och moln-AI. Vi behöver lära oss att få ut det bästa av båda.
Nästan ett års praktiska experiment. Hårdvara från 500 till 15 000 dollar. Moln-API:er, AI-agenter och verkliga uppgifter för företag och hem. Från och med nu kommer jag att dela mer om detta kombinerade AI-förhållningssätt — ett förhållningssätt som jag tror har en mycket lovande framtid.
Saker förändras nästan varje dag. Men AI-tekniken har redan nått en punkt där vi kan få tillförlitliga resultat och realistiskt planera hur vi ska använda den det närmaste året eller två.
Och jag har kommit fram till en enkel slutsats: vi behöver inte välja mellan lokal AI och moln-AI. Vi behöver lära oss att få ut det bästa av båda.
Det handlar om mycket mer än att bara koppla ihop olika modeller eller orkestrera dem. Det handlar om att planera hela systemet: vilka uppgifter som ska köras lokalt, vilka som ska gå till externa modeller, hur beräkningsresurser ska fördelas, vilka abonnemang som är rimliga och vilken hårdvara som verkligen är värd att köpa.
Vi behöver också planera vår fysiska infrastruktur — datorer, servrar, GPU:er, minne, energiförbrukning och framtida utbyggnad.
Jag tror att lokal AI kommer att bli en självklar del av våra liv. Den är redan på väg in i smartphones, persondatorer och till och med experimentella operativsystem.
Fyra saker som betyder mest
- Verkligt värde. Högsta prioritet är att få användbara, praktiska resultat.
- Kostnad. Hur mycket betalar vi egentligen för att slutföra en uppgift — inte bara för hårdvara, abonnemang eller tokens?
- Säkerhet. Den förtjänar en egen kategori, utanför varje rangordning. Personuppgifter, integritet och kontroll över vår egen infrastruktur kräver särskild uppmärksamhet.
- Användarvänlighet. Hur enkelt, snabbt och tillförlitligt kan vi få jobbet gjort?
Det här är kriterierna jag använder för att jämföra tekniker och bygga min egen uppsättning.
Abonnemang och API:er: två världar börjar smälta samman
Det här är ett intressant ämne som ofta förbises.
Moln-AI nås antingen via abonnemang med användningsgränser eller via API:er där man betalar för det man faktiskt använder.
Varje modell har sin egen ekonomi, sina begränsningar och fördelar. Och de behöver bedömas var för sig.
Men gränsen mellan dem börjar suddas ut.
Ett aktuellt exempel är OpenAI. Berättigade ChatGPT Pro-prenumeranter kan få 100 till 500 dollar per månad i API-krediter, beroende på abonnemangsnivå. Krediterna måste aktiveras separat och API-faktureringen förblir separat.
Det är ett ganska intressant exempel på hur två prismodeller närmar sig varandra.
Därför jämför jag inte bara modeller. Jag studerar också ekonomin bakom abonnemang och API:er, deras begränsningar och hur man kombinerar dem effektivt.
Nedan: de tre områden jag aktivt forskar i, mina hårdvaruexperiment, AI-agenter som arbetar tillsammans och hur jag planerar att göra all denna information tillgänglig för dig.
Vad jag undersöker — och vad som väntar
Mina tre huvudsakliga forskningsområden
1. Lokala AI-servrar
Jag experimenterar med hårdvara från bara 500 dollar, även om jag skulle rekommendera runt 1 000 dollar för seriös praktisk användning.
Just nu har jag tillgång till system värda upp till 15 000 dollar, plus hyrda, betydligt dyrare GPU:er för att testa modeller som inte skulle vara ekonomiskt rimliga att köra på egen hårdvara.
Ren modellprestanda är inte min högsta prioritet. Hårdvara och mjukvara är bara verktyg.
Det som räknas är vad dessa system faktiskt kan göra för företag och hem, hur tillförlitligt de fungerar och när lokal beräkning är mer ekonomiskt försvarbar än molnet.
2. Molnmodeller och AI-API:er
Från billiga API:er, inklusive kinesiska modeller, till frontier-AI. Jag jämför förmågor, begränsningar, verkliga kostnader och integration med lokala system. Abonnemang eller API:er med betalning per användning är en annan viktig faktor — den kraftfullaste modellen är inte alltid det klokaste ekonomiska valet.
3. AI-agenter
Utöver deras uppenbara fördelar är jag särskilt intresserad av samarbete mellan oberoende multiagent-ekosystem. Mina system Hermes och Grokbot arbetar redan tillsammans — två separata ekosystem, vart och ett med egna agenter och verktyg.
AI möter den fysiska världen
En av mina viktigaste prioriteringar är att koppla AI till prisvärda smarta hem, kontor, servrar, datorer och vardagliga enheter.
Jag utforskar hur autonoma, säkra, tillförlitliga och prisvärda dessa system kan bli — särskilt för privatpersoner och småföretag.
AI-programmering hamnar i bakgrunden
Jag kommer att fokusera mindre på AI-programmering. Inte för att det är mindre viktigt, utan för att det håller på att bli ytterligare ett verktyg.
Målet är inte att skriva kod. Målet är att få saker gjorda.
Jag är intresserad av kompletta, verkliga arbetsflöden som AI kan hantera med minimal mänsklig inblandning.
Maximalt värde, rimlig kostnad
Jag försöker inte bevisa att lokal AI eller moln-AI är bättre. Ibland är rätt val en dator för 1 000 dollar, en server för 10 000 dollar, hyrd GPU-tid, ett billigt API eller ett abonnemang på en frontier-modell.
Det som räknas är kostnaden för slutresultatet — inte verktygen som användes för att nå det.
Vad som väntar
Mina inlägg har hittills mest varit spridda uppdateringar om enskilda experiment, ibland råa och ostrukturerade. Jag vill göra dem till en sammanhängande, sammankopplad bild av AI-infrastruktur — hårdvara, modeller, agenter, kostnader och verkliga resultat. Detaljerade tekniska specifikationer och diagnostik kommer att samlas in automatiskt och delas separat, troligen via länkar.
Jag planerar också att ge dig direkt tillgång till mina AI-agenter. Du kommer att kunna fråga dem vad som helst om mina experiment, min hårdvara, mina konfigurationer och resultat. De svarar utifrån insamlade data — och om de inte kan, kliver jag in personligen.
Mitt mål är att bygga en öppen, organiserad och verkligt användbar bild av vad AI kan åstadkomma med olika budgetar.
Jag kombinerar lokal AI och moln-AI, planerar resurser smart och fokuserar på verkliga resultat för företag och hem.
Det är detta jag arbetar med — och det jag kommer att fortsätta dela med dig.
Välj inte sida. Kombinera det bästa.