MixAI: elijo una combinación de IA local y en la nube — y esta es la razón

Casi un año de experimentos prácticos. Hardware desde 500 hasta 15.000 dólares. API en la nube, agentes de IA y tareas reales para empresas y hogares. A partir de ahora compartiré más sobre este enfoque combinado de la IA, un enfoque que, en mi opinión, tiene un futuro muy prometedor.

Las cosas cambian casi a diario. Pero la tecnología de IA ya ha llegado a un punto en el que podemos obtener resultados fiables y planificar de forma realista cómo usarla durante los próximos uno o dos años.

Y he llegado a una conclusión sencilla: no tenemos que elegir entre IA local e IA en la nube. Tenemos que aprender a sacar lo mejor de ambas.

Esto va mucho más allá de simplemente conectar distintos modelos u orquestarlos. Se trata de planificar todo el sistema: qué tareas deben ejecutarse en local, cuáles deben ir a modelos externos, cómo distribuir los recursos de cómputo, qué suscripciones tienen sentido y qué hardware merece realmente la pena comprar.

También tenemos que planificar nuestra infraestructura física: ordenadores, servidores, GPU, memoria, consumo energético y futuras ampliaciones.

Creo que la IA local se convertirá en una parte esencial de nuestras vidas. Ya está llegando a los smartphones, a los ordenadores personales e incluso a sistemas operativos experimentales.

Las cuatro cosas que más importan

1. Valor real. La prioridad número uno es obtener resultados útiles y prácticos.
2. Coste. ¿Cuánto pagamos realmente por completar una tarea, y no solo por el hardware, las suscripciones o los tokens?
3. Seguridad. Merece su propia categoría, fuera de cualquier clasificación. Los datos personales, la privacidad y el control sobre nuestra infraestructura requieren una atención especial.
4. Facilidad de uso. ¿Con qué facilidad, rapidez y fiabilidad podemos hacer el trabajo?

Estos son los criterios que uso para comparar tecnologías y construir mi propia configuración.

Suscripciones y API: dos mundos que empiezan a fusionarse

Es un tema interesante que a menudo se pasa por alto.

A la IA en la nube se accede mediante suscripciones con límites de uso o mediante API en las que pagas por lo que realmente usas.

Cada enfoque tiene su propia economía, sus limitaciones y sus ventajas. Y hay que evaluarlos por separado.

Pero la frontera entre ellos empieza a difuminarse.

Un ejemplo reciente es OpenAI. Los suscriptores elegibles de ChatGPT Pro pueden recibir entre 100 y 500 dólares al mes en créditos de API, según su nivel de suscripción. Estos créditos requieren una activación aparte y la facturación de la API sigue siendo independiente.

Es un ejemplo bastante interesante de cómo dos modelos de precios se acercan.

Por eso no me limito a comparar modelos. También estudio la economía de las suscripciones y las API, sus limitaciones y cómo combinarlas de forma eficiente.

A continuación: las tres áreas que estoy investigando activamente, mis experimentos con hardware, los agentes de IA que trabajan juntos y cómo pienso poner toda esta información a tu alcance.

Qué estoy investigando y qué viene después

Mis tres principales áreas de investigación

1. Servidores de IA local

Experimento con hardware desde solo 500 dólares, aunque para un uso práctico serio recomendaría unos 1.000 dólares.

Actualmente tengo acceso a sistemas valorados en hasta 15.000 dólares, además de GPU alquiladas, mucho más caras, para probar modelos que no tendría sentido económico ejecutar en mi propio hardware.

El rendimiento bruto de los modelos no es mi prioridad principal. El hardware y el software son solo herramientas.

Lo que importa es lo que estos sistemas pueden hacer realmente por empresas y hogares, con qué fiabilidad funcionan y cuándo el cómputo local tiene más sentido económico que la nube.

2. Modelos en la nube y API de IA

Desde API baratas, incluidos modelos chinos, hasta la IA de frontera. Comparo capacidades, limitaciones, costes reales y la integración con sistemas locales. Las suscripciones o las API de pago por uso son otro factor importante: el modelo más potente no siempre es la elección económica más inteligente.

3. Agentes de IA

Más allá de sus ventajas evidentes, me interesa especialmente la colaboración entre ecosistemas multiagente independientes. Mis sistemas Hermes y Grokbot ya trabajan juntos: dos ecosistemas separados, cada uno con sus propios agentes y herramientas.

La IA se encuentra con el mundo físico

Una de mis mayores prioridades es conectar la IA con hogares inteligentes asequibles, oficinas, servidores, ordenadores y dispositivos cotidianos.

Estoy explorando hasta qué punto estos sistemas pueden ser autónomos, seguros, fiables y asequibles, sobre todo para particulares y pequeñas empresas.

La programación con IA pasa a un segundo plano

Me centraré menos en la programación con IA. No porque importe menos, sino porque se está convirtiendo en una herramienta más.

El objetivo no es escribir código. Es lograr que las cosas se hagan.

Me interesan los flujos de trabajo completos y reales que la IA pueda gestionar con una intervención humana mínima.

Máximo valor, coste razonable

No intento demostrar que la IA local o la IA en la nube sea mejor. A veces la elección correcta es un PC de 1.000 dólares, un servidor de 10.000 dólares, tiempo de GPU alquilado, una API barata o una suscripción a un modelo de frontera.

Lo que importa es el coste del resultado final, no las herramientas utilizadas para conseguirlo.

Lo que viene

Hasta ahora mis publicaciones han sido sobre todo actualizaciones dispersas de experimentos individuales, a veces en bruto y sin estructura. Quiero convertirlas en una imagen coherente y conectada de la infraestructura de IA: hardware, modelos, agentes, costes y resultados reales. Las especificaciones técnicas detalladas y los diagnósticos se recopilarán automáticamente y se compartirán por separado, probablemente mediante enlaces.

También tengo previsto darte acceso directo a mis agentes de IA. Podrás preguntarles cualquier cosa sobre mis experimentos, hardware, configuraciones y resultados. Responderán con los datos recopilados y, si no pueden, intervendré personalmente.

Mi objetivo es construir una imagen abierta, organizada y realmente útil de lo que la IA puede lograr con distintos presupuestos.

Combino IA local y en la nube, planifico los recursos con inteligencia y me centro en resultados reales para empresas y hogares.

En esto estoy trabajando, y es lo que seguiré compartiendo contigo.

No elijas un bando. Combina lo mejor.

Hilo original en X · Todas las noticias