OpenAI, uygulamaların seçenekler arasında karar vermesine yardımcı olan Decisions API’yi 22 Ekim’de genel kullanıma açtı. Araç, bir talebin hangi ekibe gideceğini veya bir yazılımın hangi adımı atacağını seçiyor. Şirket, bu işlerde bekleme süresini ve maliyeti azaltmayı hedefliyor.
OpenAI, hizmeti GPT-6 Luna üzerine kurdu. Şirketin açıklamasına göre araç, belirli seçenekler arasından yanıt isteyen görevlerde aynı modelin standart kullanımına kıyasla 10 kata kadar hız sunuyor. Bu karşılaştırma, yapay zekanın tüm görevlerini kapsamıyor.
Uygulamanın sıradaki adımını seçiyor
Decisions API’nin çalışma şekli basit: Geliştirici soruyu, olası yanıtları ve karar için gereken bilgileri tanımlıyor. Araç da bu bilgilere bakıp bir seçenek seçiyor, olasılık hesaplıyor veya puan veriyor.
Örneğin bir uygulama, müşteri mesajını okuyup talebi fatura ya da teknik destek ekibine yönlendirebilir. Bir başka uygulama, ürün fotoğrafında hasar arayabilir ve hasarın düzeyini puanlayabilir. Sistem, seçeneklerle birlikte kararına ilişkin güven bilgisini de sunuyor.
Geliştiriciler metin, görsel ve düzenli veri girdileri kullanabiliyor. OpenAI, tek istekte soru sınırını 200’den 400’e çıkardı. GPT-Live bağlantısı da sesli görüşmeler sırasında hangi adımın geleceğini seçmeye yardımcı oluyor.
Speak’in testinde süre 1,4 saniyeden 0,13 saniyeye indi
Dil öğrenme uygulaması Speak, kendi testinde iki işlem arasındaki beklemeyi 1,4 saniyeden 0,13 saniyeye düşürdüğünü açıkladı. Bu sonuç, şirketin denediği kullanım biçimini yansıtıyor.
Diğer şirketler de farklı işler için aracı deniyor. Box, belgeleri sınıflandırıp ilgili işleme yönlendiriyor. Datadog, yapay zekânın çalıştırmak istediği komutların riskini değerlendiriyor. Ramp ise yapay zekâ giderlerini hangi işlerin oluşturduğunu ayırmak için hizmeti kullanıyor.
Jev ile rekabet büyüyor
OpenAI’ın bu alandaki rakiplerinden biri, TypeSafe’in Jev modeli. Bu tür araçlar, uygulamaların sık tekrarladığı seçimlere odaklanıyor.
TypeSafe, 14 Ekim’de Jev 1.14 sürümünü duyurdu. Şirket, görsel desteği ve daha uzun girdiler gibi özellikleri de denemeye açtı. Ancak bu özelliklerin iş süreçlerinde kullanım için kendi güvenilirlik ölçütlerini karşılamadığını belirtiyor.
Hız, tek başına en iyi modeli belirlemiyor. AIMultiple’ın karşılaştırması, başarı puanını hız ve maliyetten ayrı hesaplıyor. Kontrol tarihindeki listede D1 Ultra ilk sırayı tutarken Jev 1.14 yedinci sırada yer alıyor.
Opper AI ise karar modellerini Pac-Man oynatarak sınayan JevMan testini yürütüyor. Test, modellerin oyun sırasında peş peşe gelen yön seçimlerini nasıl yaptığını ölçüyor.
Kullanım ücretini girdi miktarı belirliyor
OpenAI, Decisions API için bir milyon girdi birimi başına 0,10 dolar istiyor. Sistem, metin ve diğer girdileri “token” adı taşıyan küçük birimlerle hesaplıyor. Şirket, yanıt için ayrı ücret almıyor.
Bu fiyat, tek bir kararın sabit bedeli anlamına gelmiyor. Her isteğin taşıdığı bilgi miktarı, kullanım ücretini belirliyor.
Gemini, Claude ve GPT aynı yerde: Google Cloud’a üç OpenAI modeli geliyorGüncel