Yapay zekâ dünyasında Nvidia, AMD ve Intel’i aynı tarafta görmek pek alışıldık bir manzara değil. Ancak bu üç rakip çip üreticisi, Google ve Meta ile birlikte aynı açık kaynak projeye destek vermek için bir araya geldi. Açık kaynak yapay zekâ motoru SGLang’i geliştiren kâr amacı gütmeyen kuruluş LMSYS Org, SGLang Konsorsiyumu’nu kurduğunu duyurdu. Konsorsiyumun kurucu üyeleri Nvidia, AMD, Intel, Google, Meta, Cloudflare, Modal ve RadixArk.
LMSYS, konsorsiyumu 12 kasımda San Francisco’da başlayan ilk SGLang Zirvesi’nin açılış konuşmasında tanıttı.
SGLang ne işe yarıyor?
Bir yapay zekâ modelinin iki temel aşaması var. Önce eğitiliyor, sonra kullanıcıların sorularını yanıtlamak için çalıştırılıyor. Bu ikinci aşamaya “çıkarım” deniyor. ChatGPT’ye bir soru sorduğunuzda arka planda gerçekleşen şey tam olarak bu. SGLang, bu çıkarım işini yapan bir motor. Modelleri farklı donanımlarda daha hızlı ve daha verimli çalıştırmaya odaklanıyor.
Proje, kullanıcıların pek adını duymadığı ama sektörde yaygın olarak kullanılan bir altyapı parçası. LMSYS’e göre SGLang yüz binlerce GPU üzerinde çalışıyor. Meta, Microsoft, Google, Amazon, Thinking Machines Lab, Cloudflare, Reflection ve Modal gibi şirketler büyük ölçekli üretim sistemlerinde bu motoru kullanıyor. SGLang ayrıca PyTorch ekosisteminin de bir parçası.
Konsorsiyum ne yapacak?
Üyeler dört ana başlıkta ortak bir yol haritası oluşturacak: en yeni yapay zekâ modellerine destek, akıl yürütme ve çoklu ortam (metin, görsel, ses gibi farklı veri türleri) iş yükleri, dağıtık çıkarım ve donanım optimizasyonu. Dağıtık çıkarım, tek bir modelin birden fazla bilgisayara yayılarak çalıştırılması anlamına geliyor.
Her kurucu üye bir teknik temsilci belirleyecek ve yılda iki yol haritası toplantısına katılacak. Çalışma grupları bu toplantılar arasında da iş birliği yapabilecek, gelişmeleri ise kamuoyuyla paylaşacak. Önemli bir ayrıntı da şu: Teknik kararlar ve hangi kodun projeye ekleneceği konusunda son söz yine SGLang’in geliştiricilerinde kalacak. Proje de herkese açık olmaya devam edecek.
Yazılım neden bu kadar önemli hale geldi?
Orijinal SGLang makalesinin yazarlarından ve RadixArk’ın kurucu ortağı ve CEO’su Ying Sheng, SGLang ekibi adına yaptığı açıklamada, yeni veri merkezleri kurmanın zorlaştığı bir dönemde yapay zekâyı yazılımla verimli hale getirmenin daha da önem kazanacağını söyledi. Yani elinizdeki donanımdan daha fazla performans almak, yeni donanım almak kadar değerli hale geliyor.
LMSYS’in aktardığı Deloitte tahminine göre çıkarım, 2026'da yapay zekâ için kullanılan toplam hesaplama gücünün yaklaşık üçte ikisini oluşturacak. Bu oran 2025'te yaklaşık yarı yarıyaydı.
Nvidia’nın hiperölçek ve yüksek performanslı hesaplama başkan yardımcısı Ian Buck, daha iyi yazılımın geliştiricilerin Nvidia donanımından daha fazla performans almasını sağladığını belirtti. AMD’nin yapay zekâ uygulamalarından sorumlu kurumsal başkan yardımcısı Ramine Roane ise açık kaynağın geliştiricilere güç verdiğini ve SGLang’in AMD Instinct GPU’lar dahil farklı donanımlarda çalıştığını vurguladı. Bu son nokta, konsorsiyumun neden rakipleri bir araya getirebildiğini de açıklıyor. Ortak ve tarafsız bir yazılım katmanı, her çip üreticisinin kendi donanımını daha cazip hale getirmesine yardımcı oluyor.
Çin kendi bilgisayarını geliştiriyor: Huawei'den tamamen Çin'de üretilen bilgisayarGüncel