Bir yapay zeka modelinin içine işlemci derlendi: Doom'un tek karesi 50 dakika sürdü

Qwenputer, Qwen 3.5 4B modelinin ağırlıklarına 32 bitlik RISC-V işlemci yerleştirdi. Model, harici araç olmadan C kodu çalıştırıyor ve Doom'u bile işleyebiliyor.

Bir yapay zeka modelinin içine işlemci derlendi: Doom'un tek karesi 50 dakika sürdü

Yapay zekâ mühendisi Divyansh Agrawal, Alibaba'nın Qwen 3.5 4B dil modelinin içine çalışan bir işlemci yerleştirdi. Tom's Hardware'ın haberine göre Qwenputer adlı deneysel proje, 32 bitlik bir RISC-V işlemciyi doğrudan modelin ağırlıklarına derliyor. Model bu sayede harici bir araç, korumalı çalışma alanı veya çalışma ortamı kullanmadan C ve MicroPython kodu çalıştırabiliyor. İşlemci üzerinde Doom bile çalıştırıldı, ancak oldukça yavaş.

Agrawal, projeyi 28 Ekim'de X hesabından tanıttı. Kaynak kodu GitHub'da, model dosyaları ise Hugging Face'te açık kaynak olarak yayımlandı.

Eğitilmemiş katmanlardan oluşan bir işlemci

Projenin GitHub sayfasında yer alan bilgilere göre Qwenputer'daki işlemci, Qwen'in kendi katmanlarının önüne yerleştirilen 11 transformer katmanından oluşuyor. Bu katmanların ağırlıkları eğitim yoluyla öğrenilmedi. Her bir değeri bir derleyici hesaplayarak belirledi. Hugging Face sayfasındaki açıklamaya göre Qwen'in orijinal ağırlıkları ise değişmeden kalıyor.

İşlemcinin belleği için de sıra dışı bir yöntem kullanılıyor. Qwen 3.5'teki Gated DeltaNet katmanlarının iç durumu, yani modelin bilgiyi geçici olarak tuttuğu yapı, işlemcinin RAM'i olarak görev yapıyor. Model bir işlem yapması gerektiğinde komutları bu işlemciye gönderiyor ve sonucu yine kendi içinde okuyor.

Hesabı tahmin etmek yerine yapıyor

Projenin asıl amacı, dil modellerinin bilinen zayıf noktası olan aritmetik hatalarını ortadan kaldırmak. Standart bir dil modeli, bir çarpma işleminin sonucunu öğrendiği örüntülere bakarak tahmin ediyor. Qwenputer ise işlemi gerçekten hesaplıyor ve her seferinde aynı sonucu veriyor.

Agrawal'ın X'te paylaştığı sonuçlara göre DeepMind'ın matematik test setlerinde temel Qwen 3.5 4B modeli yüzde 55 ile 90 arasında başarı gösteriyor. Python aracına erişen model yüzde 95-100 aralığına çıkıyor. Qwenputer ise harici bir araç kullanmadan yüzde 97,5 ile 100 arasında başarı elde ediyor. Agrawal, işlemcinin resmî RISC-V testlerini geçtiğini, sonuçlarının QEMU emülatörüyle birebir örtüştüğünü ve 18 milyon komutu hatasız çalıştırdığını da belirtiyor.

Doom çalıştı ama oynanabilir değil

Her yeni donanım denemesinde olduğu gibi Qwenputer'da da Doom gündeme geldi. Tom's Hardware'ın aktardığına göre proje, oyunun ilk bölümü E1M1'i modelin içindeki işlemcide çalıştırabiliyor. Ancak bu, oyunun akıcı biçimde oynanabildiği anlamına gelmiyor.

Bir başka geliştirici, mikrodenetleyiciler için hazırlanmış hafif bir Doom sürümünü RISC-V yazılımına dönüştürdü. Geliştiricinin GitHub sayfasındaki açıklamaya göre bu sürüm, ekranı 25 küçük şerit halinde çizerek 64 KB RAM ile yetiniyor. Hardware Busters'ın haberine göre geliştirici, oyunun tek bir karesini 16 GB belleğe sahip GeForce RTX 5070 Ti ekran kartı üzerinde yaklaşık 50 dakikada oluşturdu. Geliştirici, bu denemenin etkileşimli bir oynanış olmadığını ve yalnızca derlenmiş işlemci katmanlarını kullandığını vurguluyor.

Boyut neredeyse iki katına çıktı

Eklenen işlemci katmanları modelin boyutunu ciddi biçimde büyütüyor. Tom's Hardware'a göre Qwenputer, temel Qwen 3.5 4B modelinin yaklaşık iki katı büyüklükte ve 19 GB'a yakın yer kaplıyor. Agrawal, kodlamayı kolaylaştırmak ve sistemi hızlandırmak için çalışmaların sürdüğünü belirtiyor.

Proje kısa sürede yeni sürümler de kazandı. Hugging Face'te yayımlanan sürümlerden birine işlemcinin yanında bir dosya sistemi eklendi. Bir diğerinde ise işlemciye sinir ağı komutları kazandırıldı. Bu sürüm, Andrej Karpathy'nin 260 bin parametreli küçük dil modeli stories260K'yı Qwen'in içindeki işlemcide bir C programı olarak çalıştırabiliyor. Yani bir dil modeli, kendi içinde ikinci bir dil modelini çalıştırıyor.