Qwenputer intègre un processeur RISC-V dans les poids d’un modèle d’IA et fait tourner DOOM

Qwenputer associe le grand modèle de langage Qwen 3.5 4B standard à un processeur RISC-V 32 bits dont l’implémentation est directement intégrée aux poids du modèle. Le système expérimental peut effectuer des opérations arithmétiques de processeur et exécuter du code C et MicroPython sans dépendre d’un environnement d’exécution externe ni d’un appel d’outil. Il peut également faire tourner DOOM, bien qu’à une vitesse très faible.

Le processeur est implémenté au moyen de 11 couches de transformateur placées avant les propres couches de Qwen. Au lieu d’être entraînés, leurs poids sont calculés par un compilateur. Selon Agrawal, le processeur réussit les tests officiels de RISC-V, produit des programmes correspondant à QEMU et a exécuté 18 millions d’instructions sans erreur.

Qwenputer utilise l’état Gated DeltaNet de Qwen comme mémoire vive, ce qui permet au modèle de stocker et de récupérer des instructions en interne. Agrawal a décrit l’utilisation de ces « poids rapides » comme mémoire vive comme une idée établie, tout en présentant son application à Qwen 3.5 comme une première pour ce projet. Le processeur intégré permet également d’effectuer des calculs exacts, répondant ainsi à une faiblesse courante des modèles de langage.

Le projet comprend un système de fichiers qui repose lui aussi sur l’état DeltaNet. Son stockage fournit 1 024 emplacements pour un maximum de 512 fichiers, et leur contenu peut persister lorsque l’état du modèle est sauvegardé à la fin d’une conversation.

Ces ajouts ont presque doublé la taille du modèle sous-jacent, portant Qwenputer à près de 19 Go. Agrawal recommande une station de travail disposant d’au moins 24 Go de VRAM pour tester la version actuelle. Le travail se poursuit afin d’améliorer son flux de travail de programmation et ses performances.

Qwenputer reste un projet expérimental axé sur l’exploration des possibilités d’intégration de fonctions informatiques dans un modèle d’IA. Son code est disponible sous licence MIT sur GitHub, et le modèle peut être téléchargé depuis Hugging Face.

Sources: Tom's Hardware.