O Qwenputer combina o modelo de linguagem de grande porte Qwen 3.5 4B original com uma CPU RISC-V de 32 bits cuja implementação está incorporada diretamente aos pesos do modelo. O sistema experimental pode realizar operações aritméticas do processador e executar código C e MicroPython sem depender de um ambiente de execução externo ou de uma chamada a ferramentas. Ele também consegue executar DOOM, embora a uma velocidade muito baixa.
A CPU é implementada por meio de 11 camadas de transformer posicionadas antes das próprias camadas do Qwen. Em vez de serem treinados, seus pesos são calculados por um compilador. Segundo Agrawal, o processador passa nos testes oficiais do RISC-V, produz programas compatíveis com o QEMU e executou 18 milhões de instruções sem um erro.
O Qwenputer usa o estado Gated DeltaNet do Qwen como RAM, permitindo que o modelo armazene e recupere instruções internamente. Agrawal descreveu o uso desses “pesos rápidos” como RAM como uma ideia já estabelecida, embora apresente sua aplicação ao Qwen 3.5 como uma novidade neste projeto. O processador integrado também permite cálculos exatos, resolvendo uma fraqueza comum dos modelos de linguagem.
O projeto inclui um sistema de arquivos que também depende do estado DeltaNet. Seu armazenamento oferece 1.024 espaços para até 512 arquivos, e o conteúdo pode persistir quando o estado do modelo é salvo ao final de uma conversa.
Esses acréscimos quase dobraram o tamanho do modelo subjacente, levando o Qwenputer a quase 19 GB. Agrawal recomenda uma estação de trabalho com pelo menos 24 GB de VRAM para testar a versão atual. O trabalho continua para melhorar seu fluxo de programação e desempenho.
O Qwenputer continua sendo um projeto experimental focado em explorar as possibilidades de integrar funções computacionais a um modelo de IA. Seu código está disponível sob a licença MIT no GitHub, e o modelo pode ser baixado do Hugging Face.
Fontes: Tom's Hardware.