OpenAI’nin eski yapay zeka güvenliği yöneticilerinden biri olan Jan Leike, Claude AI sohbet robotunu geliştiren rakip şirket Anthropic’e katıldı. Geçtiğimiz ayın başlarında yönetici, OpenAI’nin varsayımsal süper akıllı yapay zekalar üzerinde kontrolü sürdürmenin yollarını geliştirdikleri süper hizalamadan vazgeçmekte olmasından dolayı şirketten ayrılmıştı.
Leike, Anthropic’te süper hizalama üzerinde çalışmaya devam edeceğini söyledi. Yeni ekibi ölçeklenebilir gözetim, zayıftan güçlüye genelleme (zayıf yapay zeka sistemlerinin daha iyi sonuçlar elde etmek için daha güçlü yapay zekalara rehberlik etmesi) ve otomatik hizalama araştırması üzerinde çalışacak. Yönetici, X üzerinde paylaştığı gönderide, gerekli becerilere sahip herhangi birinin ekibinde çalışmakla ilgilenmesi durumunda kendisiyle doğrudan mesaj yoluyla iletişime geçilebileceğini söyledi.
Jan Leike ve OpenAI kurucu ortağı Ilya Sutskever Mayıs ayında OpenAI’den ayrıldı. O sırada şirket içindeki kaynaklar, OpenAI’nin süper hizalama ekibini dağıttığı ve bununla meşgul olanları şirketteki diğer projelere aktardığını bildirdi. Leike, OpenAI’den ayrılırken şirketin gidişatını eleştirerek Sam Altman ve Greg Brockman’ı OpenAI’nin güvenliğe önem verdiğini belirten bir yanıt yayınlamak zorunda bıraktı.
OpenAI, Leike ayrıldığından beri güvenli olduklarından emin olmak için yeni ürünler geliştirirken şirketin güvenlik prosedürlerine göz kulak olacak bir güvenlik komitesinin kurulduğunu duyurdu.