Nieuws

MixAI: ik kies voor een mix van lokale en cloud-AI — en dit is waarom

We hoeven niet te kiezen tussen lokale AI en cloud-AI. We moeten leren het beste uit beide te halen.

Schema: lokale AI, cloud-AI, infrastructuur en bedrijf en thuis, met pijlen met elkaar verbonden.

Bijna een jaar praktijkexperimenten. Hardware van 500 tot 15.000 dollar. Cloud-API’s, AI-agents en echte taken voor bedrijven en huishoudens. Vanaf nu ga ik meer delen over deze gecombineerde aanpak van AI — een aanpak die volgens mij een zeer veelbelovende toekomst heeft.

Er verandert bijna elke dag iets. Maar AI-technologie heeft al een punt bereikt waarop we betrouwbare resultaten kunnen behalen en realistisch kunnen plannen hoe we haar de komende een à twee jaar inzetten.

En ik ben tot een eenvoudige conclusie gekomen: we hoeven niet te kiezen tussen lokale AI en cloud-AI. We moeten leren het beste uit beide te halen.

Dit gaat veel verder dan alleen verschillende modellen koppelen of orkestreren. Het gaat om het plannen van het hele systeem: welke taken lokaal draaien, welke naar externe modellen gaan, hoe rekenkracht wordt verdeeld, welke abonnementen zinvol zijn en welke hardware echt de moeite waard is om te kopen.

We moeten ook onze fysieke infrastructuur plannen — computers, servers, GPU’s, geheugen, stroomverbruik en toekomstige uitbreiding.

Ik geloof dat lokale AI een essentieel onderdeel van ons leven wordt. Ze komt al naar smartphones, pc’s en zelfs experimentele besturingssystemen.

Vier dingen die het meest tellen

  1. Echte waarde. De hoogste prioriteit is nuttige, praktische resultaten behalen.
  2. Kosten. Hoeveel betalen we werkelijk om een taak af te ronden — niet alleen voor hardware, abonnementen of tokens?
  3. Veiligheid. Dit verdient een eigen categorie, buiten elke rangorde. Persoonsgegevens, privacy en controle over onze eigen infrastructuur vragen bijzondere aandacht.
  4. Gebruiksgemak. Hoe gemakkelijk, snel en betrouwbaar kunnen we het werk gedaan krijgen?

Met deze criteria vergelijk ik technologieën en bouw ik mijn eigen opstelling.

Abonnementen en API’s: twee werelden beginnen samen te smelten

Dit is een interessant onderwerp dat vaak over het hoofd wordt gezien.

Cloud-AI gebruik je via abonnementen met gebruikslimieten of via API’s waarbij je betaalt voor wat je werkelijk gebruikt.

Elke aanpak heeft zijn eigen economie, beperkingen en voordelen. En ze moeten afzonderlijk worden beoordeeld.

Maar de grens tussen beide begint te vervagen.

Een recent voorbeeld is OpenAI. In aanmerking komende ChatGPT Pro-abonnees kunnen, afhankelijk van hun abonnementsniveau, 100 tot 500 dollar per maand aan API-tegoed ontvangen. Dat tegoed moet apart worden geactiveerd en de API-facturering blijft gescheiden.

Een behoorlijk interessant voorbeeld van twee prijsmodellen die naar elkaar toe groeien.

Daarom vergelijk ik niet alleen modellen. Ik bestudeer ook de economie van abonnementen en API’s, hun beperkingen en hoe je ze efficiënt combineert.

Hieronder: de drie gebieden die ik actief onderzoek, mijn hardware-experimenten, AI-agents die samenwerken en hoe ik al deze informatie voor u toegankelijk wil maken.

Wat ik onderzoek — en wat er nog komt

Mijn drie belangrijkste onderzoeksgebieden

1. Lokale AI-servers

Ik experimenteer met hardware vanaf slechts 500 dollar, al zou ik voor serieus praktisch gebruik ongeveer 1.000 dollar aanraden.

Momenteel heb ik toegang tot systemen tot een waarde van 15.000 dollar, plus gehuurde, veel duurdere GPU’s om modellen te testen die economisch geen zin hebben om op eigen hardware te draaien.

Pure modelprestaties zijn niet mijn hoogste prioriteit. Hardware en software zijn slechts gereedschap.

Waar het om gaat, is wat deze systemen werkelijk voor bedrijven en huishoudens kunnen doen, hoe betrouwbaar ze werken en wanneer lokaal rekenen financieel zinvoller is dan de cloud.

2. Cloudmodellen en AI-API’s

Van goedkope API’s, waaronder Chinese modellen, tot frontier-AI. Ik vergelijk mogelijkheden, beperkingen, werkelijke kosten en integratie met lokale systemen. Abonnementen of API’s met betalen naar gebruik zijn een andere belangrijke factor — het krachtigste model is niet altijd de slimste economische keuze.

3. AI-agents

Naast hun duidelijke voordelen ben ik vooral geïnteresseerd in samenwerking tussen onafhankelijke multi-agent-ecosystemen. Mijn systemen Hermes en Grokbot werken al samen — twee afzonderlijke ecosystemen, elk met eigen agents en tools.

AI ontmoet de fysieke wereld

Een van mijn belangrijkste prioriteiten is AI verbinden met betaalbare slimme woningen, kantoren, servers, computers en alledaagse apparaten.

Ik onderzoek hoe autonoom, veilig, betrouwbaar en betaalbaar deze systemen kunnen worden — vooral voor particulieren en kleine bedrijven.

Programmeren met AI raakt op de achtergrond

Ik ga me minder richten op programmeren met AI. Niet omdat het minder belangrijk is, maar omdat het gewoon een van de vele tools wordt.

Het doel is niet om code te schrijven. Het doel is om dingen gedaan te krijgen.

Ik ben geïnteresseerd in volledige, echte workflows die AI met minimale menselijke tussenkomst kan afhandelen.

Maximale waarde, redelijke kosten

Ik probeer niet te bewijzen dat lokale of cloud-AI beter is. Soms is de juiste keuze een pc van 1.000 dollar, een server van 10.000 dollar, gehuurde GPU-tijd, een goedkope API of een abonnement op een frontier-model.

Wat telt zijn de kosten van het eindresultaat — niet de tools waarmee het is bereikt.

Wat er nog komt

Mijn berichten waren tot nu toe vooral losse updates over afzonderlijke experimenten, soms ruw en ongestructureerd. Ik wil ze omvormen tot een samenhangend, verbonden beeld van AI-infrastructuur — hardware, modellen, agents, kosten en echte resultaten. Gedetailleerde technische specificaties en diagnostiek worden automatisch verzameld en apart gedeeld, waarschijnlijk via links.

Ik ben ook van plan u directe toegang te geven tot mijn AI-agents. U kunt ze alles vragen over mijn experimenten, hardware, configuraties en resultaten. Ze antwoorden op basis van de verzamelde gegevens — en als ze dat niet kunnen, spring ik persoonlijk bij.

Mijn doel is een open, geordend en echt nuttig beeld op te bouwen van wat AI met verschillende budgetten kan bereiken.

Ik combineer lokale en cloud-AI, plan middelen slim en richt me op echte resultaten voor bedrijven en huishoudens.

Daar werk ik aan — en dat blijf ik met u delen.

Kies geen kant. Combineer het beste.

Originele thread op X · Al het nieuws