Google'ın Yapay Zeka İlkeleri

Google, yapay zeka konusunda ne gibi ilkelere sahip; kırmızı çizgileri neler? Gelin, cevapları 1 numaralı isimden alalım...

Google'ın yapay zeka ilkeleri
Sundar Pichai

Google, yapay zeka konusunda önemli yatırımlar yapan teknoloji devleri arasında önemli bir yere sahip. Hem kendi yapay zekasını geliştiren, hem de yapay zeka gelişimine doğrudan destek olan internet devinin, bu konuda tabii ki bazı ilkeleri de var.

Peki nedir bu ilkeler? Google, yapay zeka konusunda nelere dikkat ediyor; kırmızı çizgileri neler? Bu soruların cevapları aslında çok da uzağımızda değil. Google CEO'su Sundar Pichai, Haziran 2018'de yayınladığı bir blog yazısında, tüm cevapları, en ince ayrıntılara varana dek zaten vermişti.

Şimdi gelin, Google'ın yapay zeka konusundaki ilkelerini, Google'ın 1 numaralı isminin kaleminden öğrenelim...

Yazan: Sundar Pichai – CEO

Her sorunu çözemese de hayatlarımızı geliştirme potansiyeli son derece yüksek olan Yapay Zeka (AI), temelinde öğrenen ve uyum sağlayan bir programlama türü. Google'da yapay zekayı (spam'siz ve daha kolay düzenlenen e-postalar, doğal şekilde konuşabileceğiniz dijital asistan veya eğlenceli şeyleri karşınıza çıkaran fotoğraflarda olduğu gibi) ürünlerimizi daha yararlı ve pratik hale getirmek için kullanıyoruz.

Ürünlerimizin ötesinde yapay zekadan insanların acil sorunları çözebilmesine yardımcı olmak için de yararlanıyoruz. Lise öğrencileri kontrol edilemeyen orman yangınları riskini tahmin edebilen AI destekli algılayıcılar tasarlıyor. Çiftçiler hayvanlarının sağlık durumunu takip ederken, doktorlar da artık kanseri teşhis etmek ve körlüğü engellemek için yapay zekadan faydalanıyor. İşte Google'ın yapay zeka alanında araştırma geliştirmeye bu kadar yoğun şekilde yatırım yapmasının ve bu teknolojileri kendi araçları ve açık kaynak kodu üzerinden geniş kitlelerin erişimine sunmasının nedeni de faydası net şekilde ortada olan bu tür örnekler.

Bu denli güçlü bir teknolojinin, kullanımıyla ilgili eşit derecede önemli soruları da beraberinde getirdiğinin farkındayız. Yapay zekanın nasıl geliştirildiği ve kullanıldığının, önümüzdeki yıllar boyunca toplum üzerinde  ciddi etkileri olacak. Yapay zeka alanındaki liderlerden biri olarak bu işi en doğru şekilde yapma konusunda derin bir sorumluluk hissediyoruz. Bu nedenle bugün gelecekteki çalışmalarımıza rehberlik edecek yedi temel ilkeyi açıklıyoruz. Söz konusu ilkeler kuramsal kavramlar değil, araştırma ve ürün geliştirme süreçlerimizi belirleyip iş kararlarımızı etkileyecek somut standartlar olma niteliği taşıyor.

Bu alanın dinamik ve sürekli şekilde gelişmekte olduğunu kabul ediyoruz. Bu nedenle konuya ilişkin çalışmalarımızdaki yaklaşımımız, alçak gönüllülüğün yanı sıra hem iç hem de dış yükümlülüklerimizi yerine getirme konusunda kararlılığı esas alacak. Yaklaşımımızı, zaman içerisinde öğreneceklerimiz doğrultusunda adapte etme konusunda da istekli olacağız.

Yapay Zeka Uygulamalarındaki Hedeflerimiz

Yapay Zeka (AI) uygulamalarımızı, aşağıdaki hedefler ve taşıması gerektiğini düşündüğümüz özellikle çerçevesinde değerlendireceğiz. Bize göre Yapay Zeka;

1. Toplumsal fayda sağlamalıdır.

Yeni teknolojilerin açılımları her geçen gün daha yaygın şekilde toplumun tamamına dokunuyor. Yapay Zeka alanındaki gelişmelerin sağlık, güvenlik, enerji, taşımacılık, imalat ve eğlenceyi de içeren çok çeşitli alanlarda dönüşüme yol açacak nitelikte etkileri olacak. Yapay zeka teknolojilerinin potansiyel gelişimini ve kullanımlarını ele alırken çok geniş kapsamdaki toplumsal ve ekonomik faktörleri hesaba katacak, ancak elde edilmesi muhtemel toplam faydanın öngörülebilir riskler ve olumsuzluklardan ciddi ölçüde fazla olması durumunda çalışmalara devam edeceğiz.

Yapay zeka, içerikleri anlamlandırma konusundaki  becerimizi de belli ölçülerde geliştiriyor. Bu doğrultuda, yapay zeka yardımıyla yüksek kaliteli ve doğru bilgiye erişilebilmesini sağlamak için var gücümüzle çalışırken faaliyet gösterdiğimiz ülkelerin kültürel, toplumsal ve yasal normlarına saygı göstermeye devam edeceğiz. Bir yandan da teknolojilerimizi ne zaman ticari olmayacak şekilde kullanıma sunacağımız konusunu da dikkatlice değerlendirmeyi sürdüreceğiz.

2. Ön yargıların doğmasına veya artmasına neden olmaktan kaçınmalıdır.

Tüm algoritmaların ve veri setlerinin haksız yargıları yansıtması, pekiştirmesi veya azaltması söz konusu olabilir. Adil olan yargı ile olmayanı birbirinden ayırt etmenin her zaman kolay olmadığının ve kültürlere veya toplumlara göre farklılık gösterebileceğinin farkındayız. İnsanların haksız şekilde etkilemesini engellemenin yollarını bulmak için çabalayacağız yollarını arayacağız. Özellikle de ırk, etnik yapı, cinsiyet, milliyet, gelir düzeyi, cinsel yönelim, yetenek, politik görüş ve dini inanç gibi hassas konularda.

3. Güvenli bir şekilde geliştirilmeli ve güvenliği test edilmelidir.

Zarar verme riski yaratabilecek istenmeyen sonuçlardan kaçınmak için, sağlam güvenlik uygulamalarını geliştirmeye ve kullanmaya devam edeceğiz. Yapay zeka sistemlerimizi dikkatli olacak şekilde tasarlayacak ve yapay zeka güvenliği araştırmaları alanındaki en iyi uygulamalar doğrultusunda geliştirmeye devam edeceğiz. Uygun olduğu durumlarda yapay zeka teknolojilerimizi zorlu ortamlarda test ederek uygulama sırasında nasıl işlediklerini takip edeceğiz.

4. İnsanlara hesap verebilir olmalıdır.

Geri bildirim ve amacına uygun açıklama imkanı sunmaya uygun yapay zeka sistemleri geliştireceğiz. Yapay zeka teknolojilerimiz uygun şekilde insan yönetimi ve kontrolüne tabi olacak.

5. Gizlilik ilkelerine uygun tasarımda olmalıdır.

Gizlilik ilkelerimiz yapay zeka teknolojilerimizin geliştirilmesi ve kullanımı kapsamında da geçerli olacak. Uyarı ve rıza imkanı sunarken, mimarları gizliliğin güvenliği konusunda cesaretlendirecek, veri kontrolü ve kullanımı konusunda şeffaflık sağlayacağız.

6. Bilimsel mükemmellikte yüksek standartları korumalıdır.

Teknolojik yenilikçiliğin kökeninde bilimsel yöntem ve açık sorgulama, entelektüel titizlik ve işbirliği yatar. Yapay zeka araçları biyoloji, kimya, tıp ve çevre bilimleri gibi alanlarda yeni bilimsel araştırma ve bilgilerin kapılarını açma potansiyeline sahip. Yapay zeka alanında ilerleme kaydetmek için çalışırken biz de bilimsel mükemmellikte yüksek standartların peşinde koşuyoruz.

Bu alanda liderliği özendirmek için bilimsel titizlik ve çok disiplinli yaklaşımları destekleyen paydaşlarla birlikte çalışacağız. Bu doğrultuda, eğitim materyalleri, en iyi uygulama örnekleri ve daha çok kişinin kullanışlı yapay zeka uygulamaları geliştirmesine imkan tanıyacak araştırmaları yayınlayarak yapay zeka konusundaki bilgiyi sorumlu şekilde paylaşacağız.

7. Bu ilkelerle uyumlu şekilde kullanılmalıdır.

Çoğu teknolojinin birden fazla kullanım alanı söz konusudur. Zararlı veya kötüye kullanılma potansiyeli olan uygulamaları sınırlandırmak için çalışacağız. Yapay zeka teknolojilerini geliştirip hayata geçirdikçe kullanımlarını aşağıdaki faktörler ışığında değerlendireceğiz:

Birincil amaç ve kullanım: Teknolojinin birincil amacı ve çözümün zararlı bir alanda kullanılmaya uygun veya uyarlanabilir olduğu.

Doğallık ve eşsizlik:  Sunduğumuz teknolojinin eşsiz mi yoksa daha genel bir teknoloji olup olmadığı.

Ölçek: Söz konusu teknoloji kullanımının belirgin bir etki, yaratıp yaratmayacağı.

Google'ın ne kadar dahil olduğu: Genel amaçlı araçlar mı sunuyoruz, müşteriler için araçlar mı entegre ediyoruz yoksa özel çözümler mi geliştiriyoruz.

Yapay Zeka Uygulamalarımız Neleri İçermeyecek?

Yukarıdaki hedeflere ek olarak, aşağıda belirtilen uygulama alanlarında yapay zeka geliştirmeyeceğiz ve hayata geçirmeyeceğiz:

1. Zarara neden olan veya olabilecek teknolojiler. Maddesel bir zarar riski söz konusu olduğunda, yalnızca elde edilecek toplam faydanın riskleri ciddi derecede aşacağına inanıyorsak, gerekli güvenlik koşullarını devreye sokarak devam edeceğiz.

2. Silahlar veya birincil amacı ya da kullanımı insanların zarar görmesine neden olan diğer teknolojiler.

3. Uluslararası yasaları ve normları ihlal edecek şekilde gözetleme amaçlı bilgi toplayan veya kullanan teknolojiler.

4. Amacı yaygın şekilde kabul gören uluslararası yasalar ve insan hakları ilkeleriyle ters düşen teknolojiler.

Silah kullanımına yönelik yapay zeka geliştirmemekle birlikte hükümetlerle ve orduyla çok sayıda alanda birlikte çalışmaya devam edeceğimizi de net bir şekilde belirtmek isteriz. Bunlar arasında siber güvenlik, eğitim, askeri işe alım ve gazilerin sağlık hizmetleri ile arama-kurtarma gibi alanlar yer alıyor. Söz konusu işbirlikleri önem taşıyor ve bu doğrultuda ilgili kuruluşların kritik işlerini desteklemenin ve hem hizmet verenleri hem de sivilleri güvende tutmanın farklı yolları üzerinde aktif şekilde çalışıyoruz.

Uzun Vadede Yapay Zeka

Yapay zeka konusunda bu yaklaşımı seçerken, bu konuşmada daha fazla ses için yer olduğunun da farkındayız. Yapay zeka teknolojileri ilerledikçe Bu alanda liderliği özendirmek için bilimsel titizlik ve çok disiplinli yaklaşımları destekleyen çeşitli paydaşlarla birlikte çalışacağız. Yapay zeka teknolojilerini geliştirme konusunda öğrendiklerimizi ve uygulamaları da paylaşmaya devam edeceğiz.

Bu yaklaşımın hem şirketimiz hem de yapay zekanın gelecekteki gelişimi için doğru temeller oluşturduğuna inanıyoruz. Bu yaklaşım, 2004 yılındaki Kuruculardan Mektup adlı yazımızda ortaya konan değerlerle de uyumlu. Söz konusu yazıda, kısa vadede ödünler vermek anlamına  gelse bile, uzun vadeli bir perspektif konusundaki niyetimizi net bir şekilde belirtmiştik. O gün söylediğimize, bugün de inanıyoruz.

Okuyucu Yorumları

İlk yorum yapan siz olun
Sen de yorum yaz

 

CHIP'i Takip edin
E-Posta listemize katılın
CHIP Dergi Mobil Cihazınızda
Apple Store
Google Play

Turhost

İlginizi çekebilir

Turhost