Yapay zekâ geliştiricilerinin büyük bölümü, insanların düşünme biçimini taklit eden akıl yürütme (reasoning) kabiliyetine sahip modeller üzerinde çalışıyor. Ancak yeni araştırmalar, bu gelişmiş sistemlerin ciddi ölçüde yüksek enerji tükettiğini ortaya koyuyor.
Perşembe günü yayımlanan bir çalışmaya göre, akıl yürütme özelliği aktif olan modeller, 1.000 yazılı komuta yanıt verirken ortalama olarak bu özellik kapalı modellere kıyasla 100 kat daha fazla enerji tüketti.
Araştırma, Hugging Face araştırmacısı Sasha Luccioni ile Salesforce’un yapay zekâ sürdürülebilirliği ekibinden Boris Gamazaychikov tarafından yürütülen AI Energy Score projesi kapsamında gerçekleştirildi.
40 farklı model test edildi
Çalışmada OpenAI, Google (Alphabet) ve Microsoft gibi önde gelen şirketlerin açık erişimli 40 yapay zekâ modeli incelendi. Bazı modeller arasında enerji tüketimi bakımından büyük farklar olduğu da görüldü. Çin merkezli DeepSeek’in bir modeli, bu açıdan en çarpıcı örneklerden biri oldu.
DeepSeek’in R1 modelinin kırpılmış sürümü, akıl yürütme kapalıyken 1.000 komutu işlemek için sadece 50 watt saat enerji harcadı. Bu, 50 watt’lık bir ampulün 1 saat yanmasına eşdeğer. Ancak aynı görevler akıl yürütme açıkken 308.186 watt saate çıktı.
Artan enerji tüketimi endişe yaratıyor
Yapay zekâ talebinin hızla artması, teknoloji şirketlerinin yeni veri merkezleri inşa etmesini gerektiriyor. Bu durumun elektrik şebekelerine yük bindirmesi ve tüketicilerin enerji maliyetlerini artırması yönünde kaygılar dile getiriliyor.
Bloomberg’in eylül ayında yaptığı bir araştırma, veri merkezlerinin bulunduğu bölgelerde toptan elektrik fiyatlarının son beş yılda yüzde 267’ye kadar yükseldiğini ortaya koymuştu.
Ayrıca Microsoft, Google ve Amazon daha önce, veri merkezi inşalarının uzun vadeli iklim hedeflerini zorlaştırabileceğini kabul etmişti.
Reasoning modellerinin yaygınlaşması araştırmaları geciktirdi
OpenAI’nin ilk akıl yürütme modeli olan o1, bir yıldan uzun süre önce tanıtılmıştı. Önceki modeller sorulara anında yanıt verirken, o1 yanıt üretmeden önce daha fazla hesaplama yapıyordu. Bu yaklaşım giderek yaygınlaştı ve birçok şirket benzer sistemler geliştirmeye başladı.
Bu modeller bilim, matematik ve yazılım geliştirme gibi çok adımlı karmaşık görevlerde öne çıkıyor. Ancak enerji gereksinimleri hakkında bugüne kadar kapsamlı bir çalışma yapılmamıştı.
Daha fazla metin üretiyorlar, daha fazla güç harcıyorlar
Araştırmacılar, enerji tüketimindeki artışın büyük bölümünün reasoning modellerinin yanıt verirken çok daha fazla metin üretmesinden kaynaklandığını söylüyor.
Luccioni, hazırlanan raporun yapay zekânın enerji ihtiyaçlarının nasıl değiştiğini daha iyi anlamaya katkı sağlamasını amaçladığını belirtiyor. Ayrıca her görevin en güçlü ve en enerji yoğun modele ihtiyaç duymadığını vurguluyor:
“Her iş için en ağır modeli kullanmak zorunda değiliz. Göreve uygun model seçimi önemli,” diyor.
Test süreci ve dikkat çeken sonuçlar
Tüm modeller aynı donanım üzerinde ve aynı komut setiyle test edildi. Komutlar, basit sorulardan (örneğin belirli bir yılın Super Bowl kazananı) karmaşık matematik problemlerine kadar çeşitlendi. Enerji kullanımı CodeCarbon adlı araçla gerçek zamanlı olarak ölçüldü.
Elde edilen sonuçlar arasında büyük farklar vardı:
Microsoft’un Phi 4 reasoning modeli:
-
Akıl yürütme açıkken 9.462 watt saat
-
Akıl yürütme kapalıyken 18 watt saat
OpenAI’nin en büyük GPT-OSS modeli:
-
“High” ayarında reasoning açık: 8.504 watt saat
-
“Low” ayarında reasoning açık: 5.313 watt saat
İlgili şirketler konuya ilişkin yorum yapmadı.
Google’ın dahili ölçümleri
Google’ın ağustos ayında yayımladığı iç araştırmaya göre Gemini hizmetinde ortalama bir metin komutu 0,24 watt saat enerji tüketiyor. Şirket bu değerin “kamuya açık birçok tahminden belirgin şekilde düşük” olduğunu belirtiyor.
Eğitimden çalıştırmaya (Inference) kayış hızlandı
Şimdiye kadar yapay zekâ tüketimi daha çok eğitim süreçleri üzerinden tartışılıyordu. Ancak şirketler artık eğitilmiş modelleri çalıştırmaya, yani inference süreçlerine daha fazla kaynak ayırıyor. Reasoning modellerinin yaygınlaşması da bu eğilimi hızlandırıyor.
Microsoft CEO’su Satya Nadella, kasım ayında yaptığı bir açıklamada sektörün enerji kullanımına ilişkin toplumsal kabulü hak etmesi gerektiğini söylemiş ve bunun için AI’ın topluma fayda sağlaması gerektiğini vurgulamıştı.