Nvidia'dan kişisel verilerinizi anlayan yeni yerel zekâ

Yeni yerel yapay zekâ aracı, dosyalarınızı tarayıp anında anlamlandırıyor. Üstelik tüm işlem bilgisayarınızda yapıldığı için hem hızlı hem tamamen gizli.

Nexa.ai’nin geliştirdiği yeni “Hyperlink” ajanı, yapay zekâ aramasına bambaşka bir yaklaşım getiriyor ve tüm süreç doğrudan bilgisayarınızda çalışıyor. Nvidia RTX AI PC’ler için tasarlanan bu uygulama, kişisel verilerinizi bulut yerine yerel donanımda işleyerek notlar, sunum dosyaları, PDF’ler ve görseller arasında bağlamsal bağlantılar kuran bir yardımcıya dönüşüyor. Nvidia, uzaktaki sunuculara sorgu göndermek yerine her şeyin sistem içinde işlendiğini belirtiyor. Sonuçta hem daha hızlı yanıt alınabiliyor ve tam gizlilik sağlanıyor.

Yerel hız, tam gizlilik

Hyperlink, RTX 5090’lı bir sistemde test edilmiş ve önceki sürümlere kıyasla 3 kata kadar daha hızlı indeksleme, 2 kata kadar daha hızlı LLM çıkarım hızı sunduğu belirtiliyor. Bu performans farkı, aracın bilgisayarınızdaki binlerce dosyayı mevcut çoğu yapay zekâ aracından çok daha verimli şekilde tarayabileceği anlamına geliyor. Uygulama klasik anahtar kelime eşleştirmesi yapmıyor; bunun yerine, yüksek seviyeli LLM çıkarım yeteneklerini kullanarak kullanıcı niyetini yorumluyor. Böylece dosya isimleri belirsiz veya içeriğe alakasız olsa bile ilgili bilgilere ulaşabiliyor.

Generatif yapay zekânın üretkenlik araçlarına daha fazla entegre olduğu bu dönemde, statik aramadan bağlamsal anlayışa geçiş dikkat çeken bir dönüşüm yaratıyor. Hyperlink ayrıca birden fazla dokümandaki ilişkili fikirleri bir araya getirip, kaynaklarıyla birlikte yapılandırılmış yanıtlar oluşturabiliyor. Bulut tabanlı çoğu asistandan farklı olarak Hyperlink, PDF’ler, sunumlar, görüntüler ve diğer dosyalar  gibi taradığı tüm verileri cihaz içinde tutuyor. Böylece hiçbir kişisel bilgi bilgisayar dışına çıkmadan korunuyor.

Bu model özellikle hassas veri işleyen, buna rağmen yapay zekânın hızından yararlanmak isteyen profesyoneller için çekici görünüyor. Kullanıcılar, uzaktan veri depolama veya işleme riskine girmeden hızlı ve bağlamsal yanıtlar alıyor.

RTX optimizasyonu

Nvidia’nın RTX donanımı için yaptığı optimizasyonlar yalnızca arama hızına odaklanmıyor. Şirket, RAG (retrieval-augmented generation) sürecinin artık yoğun veri klasörlerini 3 kata kadar daha hızlı indekslediğini söylüyor. Örneğin, daha önce yaklaşık 15 dakika süren 1 GB’lık bir veri koleksiyonu artık yaklaşık 5 dakikada işlenebiliyor.

Artan çıkarım hızı, yanıtların da çok daha hızlı gelmesi anlamına geliyor; bu da toplantıya hazırlık, ders çalışması veya rapor analizi gibi günlük işlerde akıcılığı artırıyor. Hyperlink, yerel zekâ ile GPU hızlandırmasını birleştirerek hem kontrol hem de hız sunuyor. Bu yönüyle, verilerini güvende tutmak isteyen ama üretkenlikten ödün vermek istemeyen kullanıcılar için son derece işlevsel bir yapay zekâ aracı haline geliyor.

Sonraki Haber

Forum