Experiência com uma placa gráfica AMD RX 580 por 49 €: modelos pequenos e consumo de energia

A 12 de novembro de 2026 foi instalada uma AMD Radeon RX 580 8 GB na P3001, uma estação de trabalho usada com processador Xeon E5-2697 v2 e 64 GB de memória ECC DDR3-1333 instalados em modo de quatro canais (o sistema vê cerca de 62 GB). A placa foi comprada por 49 €: 45 € pela própria placa e 4 € de envio. Trata-se da variante RX 580 2048SP: tem 2.048 processadores de fluxo, não os 2.304 de uma RX 580 «completa», e está no essencial mais próxima de uma RX 570. Essa distinção importa ao compará-la com outras placas da mesma linha. O sistema operativo é Ubuntu 24.04.

O Strata não arranca nesta placa, e não planeamos pedir o suporte deste modelo de GPU no Strata: o tempo do autor é melhor empregue em hardware mais capaz. A experiência usou llama.cpp com o backend Vulkan. Não há CUDA, não há núcleos tensoriais nem aceleração FP16. Na mesma estação, um modelo pequeno 3B em quantização Q4 atingiu 60 tok/s na descodificação. Para comparação, num modelo Qwen grande de 77,9 GiB, a RX 580 com llama.cpp mediu 33,9 tok/s no prefill e 5,85 tok/s na descodificação. A mesma estação com uma RTX 3050 8 GB e Strata, nesta carga, mediu 128–188 tok/s no prefill e 23–31 tok/s na descodificação. Durante a inferência, a RX 580 consumiu até cerca de 120 W. Para um modelo desse tamanho a placa é a opção mais fraca; como «segundo cérebro» para microtarefas curtas, os resultados tornam-na ainda assim útil, e custa menos do que uma quantidade comparável de memória de sistema mais recente.

A experiência afastou-se depois do maior modelo possível e voltou-se para modelos pequenos que cabem por completo em 8 GB de memória de vídeo. Foram medidos em separado três modelos: Qwen2.5-3B Q4 — 1,79 GiB, 392 tok/s de prefill e 60 tok/s de descodificação; Nemotron Nano 4B Q4 — 2,63 GiB, 268 / 40 tok/s; e Bonsai 2 9B Q2 — 2,37 GiB, 170 / 27 tok/s. O peso combinado é 6,79 GiB. Em teoria os três poderiam caber em 8 GB, deixando cerca de 1,21 GiB para a cache KV, os buffers de cálculo e o custo adicional. É justo, e a residência simultânea dos três na memória de vídeo não foi verificada.

O consumo real da placa durante a inferência local também foi medido em cinco limites de potência: 120, 100, 70, 50 e 30 W. Para modelos pequenos que cabem por completo na memória de vídeo, nesta experiência o ponto mais eficiente para a geração foi 70 W. Face a 120 W, o consumo da placa durante a inferência foi cerca de 36% inferior, a velocidade de geração apenas 12–15% mais baixa e a energia por token gerado 26–28% mais baixa. A 70 W o modelo 3B gerou 39,5 tok/s. Uma resposta curta de 200 tokens usou 0,091 Wh de eletricidade da própria placa. A 0,25 €/kWh isso equivale a 0,000023 € por uma tal resposta, 0,023 € por mil respostas por dia e cerca de 8,30 € por 365.000 respostas desse tipo num ano. Esta estimativa não inclui o consumo em repouso nem o resto do computador. Em repouso, a RX 580 consome cerca de 14 W, o que com alimentação contínua corresponde a cerca de 30,70 € por ano; o processador, a memória, a placa-mãe e o armazenamento acrescentam o seu. Para cargas de baixa intensidade, reduzir o consumo em repouso pode importar mais do que reduzir o da inferência. Ressalva: 70 W é ótimo para a geração com modelos pequenos medida nesta experiência, não necessariamente para qualquer tarefa. Pedidos longos, cadeias de reconhecimento de texto em imagens, processamento de áudio e outras cargas podem ter características de velocidade e energia inteiramente diferentes.

A linha de trabalho seguinte não é «quão grande pode ser o modelo executado», mas quantas tarefas quotidianas úteis um sistema local económico pode realizar: análise de PDF pequenos, extração de dados de digitalizações, reconhecimento de texto em imagens, transcrição de gravações curtas, classificação de ficheiros, resumos, leitura de registos, encaminhamento de pedidos e preparação de dados para um sistema de IA maior. Essas cargas multimodais e documentais ainda não foram objeto de experiência nesta placa. A sua viabilidade, exatidão, latência, necessidade de memória e custo energético ficam por investigar. Algumas operações talvez se tratem melhor no processador, deixando a placa para a inferência. Se vários modelos especializados podem permanecer carregados, com apenas um a ser executado de cada vez, é também uma questão ainda em aberto.

A alimentação é uma questão de engenharia à parte. Uma ranhura PCIe x16 padrão pode fornecer até 75 W diretamente a partir da placa-mãe. O modo mais eficiente para modelos pequenos nesta experiência foi um limite de software de 70 W. A ideia que estamos a considerar é uma configuração que funcione só a partir da ranhura, sem um conetor de alimentação adicional de 6 ou 8 pinos, de modo a poder instalar-se uma tal placa num computador de escritório já existente, sem trocar a fonte de alimentação. É uma direção de trabalho, não uma solução acabada. Na experiência, mesmo com o limite de software de 70 W, ainda se observaram picos breves acima de 75 W, e a RX 580 de que dispomos continua a precisar de alimentação auxiliar. Um desenho seguro «só a partir da ranhura» exigiria trabalho de engenharia sobre a potência de pico e verificações de compatibilidade. Os fluxos documentais, gráficos e de áudio também ficam por confirmar. Não afirmamos que uma instalação destas esteja já a ser fornecida a clientes.

Uma placa de 49 € não substitui o sistema principal com Strata. Com os resultados já obtidos pode tornar-se um executor económico, relativamente parcimonioso, para muitas tarefas curtas e repetitivas, mantendo os dados no local. Todas as medições, as experiências sobre o limite de potência, o método, os registos em bruto, as falhas e as conclusões estão publicados no repositório. Estamos a averiguar quanta IA local útil se pode obter de hardware que muitas vezes se considera ultrapassado.

Medições no repositório · Publicação no X · Todas as notícias