Yapay zeka liderleri geliştirme çalışmalarının yavaşlatılmasını istiyor
· LOG - Teknoloji Haberleri
Anthropic CEO’su Dario Amodei, yapay zeka alanındaki geliştirme çalışmalarının hızının azaltılması gerektiğine değinen detaylı bir yazı paylaştı. Amodei, bu sayede şirketlere gerekli güvenlik önlemlerini geliştirmeleri, düzenleyici kurumlara ise modelleri değerlendirmeleri için daha fazla zaman kaza
Anthropic CEO’su Dario Amodei, yapay zeka alanındaki geliştirme çalışmalarının hızının azaltılması gerektiğine değinen detaylı bir yazı paylaştı. Amodei, bu sayede şirketlere gerekli güvenlik önlemlerini geliştirmeleri, düzenleyici kurumlara ise modelleri değerlendirmeleri için daha fazla zaman kazandırmayı hedefliyor. Modellerin üçüncü parti şirketler tarafından bağımsız şekilde değerlendirilmesi gerektiğini aktaran Amodei, sektörün tamamının devlet kurumlarıyla birlikte hareket ederek ortak güvenlik standartları oluşturmasını. Modellerin üçüncü parti şirketler tarafından bağımsız şekilde değerlendirilmesi gerektiğini aktaran Amodei, sektörün tamamının devlet kurumlarıyla birlikte hareket ederek ortak güvenlik standartları oluşturmasını ve denetimsiz yapay zeka ilerlemesinin hızına yönelik sınırlar belirlemesini istiyor. Yasaların çıkarılmasının ve gerekli düzenleyici altyapının kurulmasının zaman alacağına dikkat çeken yönetici. Bu süreç tamamlanana kadar sektörün ortak güvenlik standartları oluşturmak için birlikte çalışması gerektiğini belirtiyor. Anthropic CEO’suna OpenAI CEO’su Sam Altman ve Google DeepMind CEO’su Demis Hassabis de destek veriyor. Altman, konuya ilişkin şu ifadeleri kullandı: “İleri düzey yapay zekadaki gelişmelerin hızını kontrollü biçimde yönetmemiz gerektiği konusunda Dario’ya katılıyorum. Bu konu, son haftalarda OpenAI’da yaptığımız görüşmelerin başlıca gündem maddelerinden birini oluşturuyor. Çalışanlara benzer düzeyde erişime sahip bağımsız değerlendiricilerden yararlanmayı taahhüt etmek harika bir fikir. ” Hassabis’in açıklaması ise şöyle oldu: “Dario’nun yazısı, izlenmesi gereken doğru yola işaret ediyor. Ayrıntılar üzerinde daha fazla çalışılması gerekiyor ancak bu kritik dönemin gerektirdiklerini karşılamak açısından doğru bir yol. Kısa süre önce ileri düzey yapay zeka için sektör genelinde bir standart kuruluşu oluşturulmasına yönelik önerimizi yayımlamamızın nedenlerinden biri de buydu. ”