Yapay zeka dünyasını karıştıran istifa: 10 yıl içinde insanlığı öldürebilir
· Dünya Gazetesi
Yapay zeka sektörünün içinden gelen istifa açıklaması teknoloji dünyasında tartışma yarattı. Görünen o ki, openAI ve Anthropic'te üç yıl araştırmacı olarak çalışan Jacob Coxon, şirketlerin süper zekaya ulaşmak için tehlikeli bir yarış yürüttüğünü. Sistemleri geliştiren çalışanların önümüzdeki 10…
Sosyal medyada milyonlarca kez görüntülenen açıklamasında Coxon, şirketlerin kendi kendini geliştirebilen "süper zeka"ya ilk ulaşan olmak için kontrolsüz bir yarış içinde olduğunu ileri sürdü.
Coxon'a göre mevcut yapay zeka sistemlerinin yeteneklerindeki hızlı gelişim, gelecekte çok daha güçlü sistemlerin ortaya çıkmasının önünü açıyor.
"Bu teknolojinin gücünü hafife almayın" diyen Coxon, gelecekteki sistemlerin siber saldırılardan bilimsel. "Bu teknolojinin gücünü hafife almayın" diyen Coxon, gelecekteki sistemlerin siber saldırılardan bilimsel ve teknolojik gelişmelere kadar birçok alanda insanüstü yeteneklere ulaşabileceğini, hatta gerçek dünyada güç ve kaynak elde edebilecek hale gelebileceğini savundu. Ancak açıklamasında en fazla dikkat çeken bölüm, sektörün kendi içindeki risk algısına ilişkin iddiası oldu.
Coxon, gelişmiş yapay zeka modelleri üzerinde çalışan bazı sektör çalışanlarının bu sistemlerin 10 yıl içinde insanlığın varlığını tehdit edebilecek sonuçlar doğurabileceğine ciddi biçimde inandığını öne sürdü. Şirket yöneticilerinin kamuoyuna daha ölçülü mesajlar verdiğini savunan Coxon, şirketlerin kendi içinde ise çok daha ağır risk senaryolarının tartışıldığını iddia etti.
Coxon ayrıca Anthropic yönetiminin riskleri kabul etmesine rağmen süper zekaya rakiplerinden önce ulaşılması gerektiği düşüncesiyle hareket ettiğini öne sürdü.
Coxon'un açıklamaları kısa sürede milyonlarca görüntülenmeye ulaşırken yapay zeka güvenliğine ilişkin tartışmalar da yeniden alevlendi. Milyarder yatırımcı Bill Ackman açıklamayı "endişe verici" olarak değerlendirirken. Bazı kullanıcılar gelişmiş yapay zeka sistemleri için daha güçlü küresel denetim mekanizmaları kurulması çağrısında bulundu.