Notícias
MixAI: escolho uma combinação de IA local e IA na nuvem — e explico porquê
Não temos de escolher entre IA local e IA na nuvem. Temos de aprender a tirar o melhor das duas.
Quase um ano de experiências práticas. Hardware de 500 a 15.000 dólares. APIs na nuvem, agentes de IA e tarefas reais para empresas e casas. A partir de agora vou partilhar mais sobre esta abordagem combinada à IA — uma abordagem que, na minha opinião, tem um futuro muito promissor.
As coisas mudam quase todos os dias. Mas a tecnologia de IA já chegou a um ponto em que podemos obter resultados fiáveis e planear de forma realista como usá-la nos próximos um ou dois anos.
E cheguei a uma conclusão simples: não temos de escolher entre IA local e IA na nuvem. Temos de aprender a tirar o melhor das duas.
Isto vai muito além de simplesmente ligar modelos diferentes ou orquestrá-los. Trata-se de planear todo o sistema: que tarefas devem correr localmente, quais devem ir para modelos externos, como distribuir os recursos de computação, que subscrições fazem sentido e que hardware vale realmente a pena comprar.
Também temos de planear a nossa infraestrutura física — computadores, servidores, GPUs, memória, consumo de energia e futuras expansões.
Acredito que a IA local se tornará uma parte essencial das nossas vidas. Já está a chegar aos smartphones, aos computadores pessoais e até a sistemas operativos experimentais.
As quatro coisas que mais importam
- Valor real. A prioridade número um é obter resultados úteis e práticos.
- Custo. Quanto pagamos realmente para concluir uma tarefa — e não apenas por hardware, subscrições ou tokens?
- Segurança. Merece uma categoria própria, fora de qualquer classificação. Os dados pessoais, a privacidade e o controlo sobre a nossa infraestrutura exigem atenção especial.
- Facilidade de utilização. Com que facilidade, rapidez e fiabilidade conseguimos fazer o trabalho?
São estes os critérios que uso para comparar tecnologias e construir a minha própria configuração.
Subscrições e APIs: dois mundos que começam a fundir-se
É um tema interessante que muitas vezes passa despercebido.
Acede-se à IA na nuvem através de subscrições com limites de utilização ou através de APIs em que se paga o que realmente se usa.
Cada abordagem tem a sua própria economia, limitações e vantagens. E devem ser avaliadas separadamente.
Mas a fronteira entre elas está a começar a esbater-se.
Um exemplo recente é a OpenAI. Os subscritores elegíveis do ChatGPT Pro podem receber entre 100 e 500 dólares por mês em créditos de API, consoante o nível da subscrição. Estes créditos exigem ativação separada e a faturação da API continua separada.
É um exemplo bastante interessante de dois modelos de preços a aproximarem-se.
Por isso, não me limito a comparar modelos. Estudo também a economia das subscrições e das APIs, as suas limitações e como combiná-las de forma eficiente.
A seguir: as três áreas que estou a investigar ativamente, as minhas experiências com hardware, agentes de IA a trabalhar em conjunto e como pretendo tornar toda esta informação acessível para si.
O que estou a investigar — e o que vem a seguir
As minhas três principais áreas de investigação
1. Servidores de IA local
Faço experiências com hardware a partir de apenas 500 dólares, embora para uma utilização prática séria recomende cerca de 1.000 dólares.
Atualmente tenho acesso a sistemas no valor de até 15.000 dólares, além de GPUs alugadas, muito mais caras, para testar modelos que não faria sentido económico executar no meu próprio hardware.
O desempenho bruto dos modelos não é a minha principal prioridade. Hardware e software são apenas ferramentas.
O que importa é o que estes sistemas conseguem realmente fazer por empresas e casas, com que fiabilidade funcionam e quando a computação local faz mais sentido financeiro do que a nuvem.
2. Modelos na nuvem e APIs de IA
Desde APIs baratas, incluindo modelos chineses, até à IA de fronteira. Comparo capacidades, limitações, custos reais e a integração com sistemas locais. Subscrições ou APIs pagas por utilização são outro fator importante — o modelo mais poderoso nem sempre é a escolha económica mais inteligente.
3. Agentes de IA
Para além das suas vantagens óbvias, interessa-me sobretudo a colaboração entre ecossistemas multiagente independentes. Os meus sistemas Hermes e Grokbot já trabalham em conjunto — dois ecossistemas separados, cada um com os seus próprios agentes e ferramentas.
A IA encontra o mundo físico
Uma das minhas maiores prioridades é ligar a IA a casas inteligentes acessíveis, escritórios, servidores, computadores e dispositivos do dia a dia.
Estou a explorar até que ponto estes sistemas podem tornar-se autónomos, seguros, fiáveis e acessíveis — sobretudo para particulares e pequenas empresas.
A programação com IA passa para segundo plano
Vou concentrar-me menos na programação com IA. Não porque seja menos importante, mas porque se está a tornar apenas mais uma ferramenta.
O objetivo não é escrever código. É fazer as coisas acontecerem.
Interessam-me fluxos de trabalho completos e reais que a IA consiga gerir com intervenção humana mínima.
Valor máximo, custo razoável
Não estou a tentar provar que a IA local ou a IA na nuvem é melhor. Às vezes, a escolha certa é um PC de 1.000 dólares, um servidor de 10.000 dólares, tempo de GPU alugado, uma API barata ou uma subscrição de um modelo de fronteira.
O que importa é o custo do resultado final — não as ferramentas usadas para o alcançar.
O que vem a seguir
Até agora, as minhas publicações têm sido sobretudo atualizações dispersas sobre experiências individuais, por vezes em bruto e pouco estruturadas. Quero transformá-las numa imagem coerente e ligada da infraestrutura de IA — hardware, modelos, agentes, custos e resultados reais. As especificações técnicas detalhadas e os diagnósticos serão recolhidos automaticamente e partilhados à parte, provavelmente através de links.
Também planeio dar-lhe acesso direto aos meus agentes de IA. Poderá perguntar-lhes qualquer coisa sobre as minhas experiências, hardware, configurações e resultados. Eles responderão com base nos dados recolhidos — e, se não conseguirem, intervenho pessoalmente.
O meu objetivo é construir uma imagem aberta, organizada e realmente útil do que a IA consegue alcançar com diferentes orçamentos.
Combino IA local e na nuvem, planeio os recursos de forma inteligente e concentro-me em resultados reais para empresas e casas.
É nisto que estou a trabalhar — e é isto que vou continuar a partilhar consigo.
Não escolha um lado. Combine o melhor.