Coxon, Anthropic’ten istifa etti: Yapay zeka geliştiren şirketlerin insanlığın geleceğiyle kumar oynadığını söyledi
· FikirPilot
OpenAI’da ve son üç yıldır Claude’u geliştiren Anthropic’te yapay zekâ modellerinin ön eğitimi üzerine çalışan araştırmacı Jacob Coxon, Anthropic’ten istifa etti. Coxon, iki şirketin “kendini geliştiren süperzekâya doğru düz bir yarış” yürüttüğünü ve insanlığın geleceğiyle kumar oynadığını…
OpenAI’da ve son üç yıldır Claude’u geliştiren Anthropic’te yapay zekâ modellerinin ön eğitimi üzerine çalışan araştırmacı Jacob Coxon, Anthropic’ten istifa etti. Coxon, iki şirketin “kendini geliştiren süperzekâya doğru düz bir yarış” yürüttüğünü ve insanlığın geleceğiyle kumar oynadığını savundu.
Coxon, yapay zekâ geliştiren birçok kişinin bu teknolojinin on yılın sonuna kadar insanlığı yok edebileceğine samimi biçimde inandığını. Bunun bir pazarlama numarası olmadığını söyledi. Anthropic’te risklerin bilindiğini ancak şirketin ilk ulaşma yarışı nedeniyle geliştirmeyi sürdürdüğünü belirten Coxon. Bu yarışın kontrolden çıkabilecek sistemler üretme riski taşıdığını ifade etti.
Koordinasyon konusunda iyimser olduğunu aktaran Coxon, Hugging Face saldırısı gibi gelişmelerin ABD laboratuvarları arasında tempo belirleme anlaşmalarını mümkün kılabileceğini söyledi. Küresel yarışın önlenmesi için model yeteneklerini geliştirmeye yönelik geçici bir yasak gibi maliyetli adımlar gerekebileceğini belirten Coxon. Küresel yarışın önlenmesi için model yeteneklerini geliştirmeye yönelik geçici bir yasak gibi maliyetli adımlar gerekebileceğini belirten Coxon, araştırmacılara süperzekâ sistemlerini yeterince anlamadan çalıştırmanın sonuçlarını düşünmeleri çağrısında bulundu.
Bu çıkış, yapay zekâ güvenliği tartışmasını soyut bir risk meselesinden, laboratuvarların karar alma biçimiyle doğrudan bağlantılı bir yönetişim sorununa taşıyor. Şirketlerin riskleri bildikleri halde ilk ulaşma yarışını sürdürmesi, teknik kapasite ile güvenlik değerlendirmesinin aynı hızda ilerlemeyebileceği endişesini gündeme getiriyor. Konu yalnızca araştırmacıları değil, bu sistemlerin geliştirilme koşullarını ve olası sınırlarını belirleyecek şirketler arası koordinasyonu da ilgilendiriyor. Hugging Face saldırısı gibi gelişmelerin tempo belirleme anlaşmalarını mümkün kılıp kılamayacağı. Hugging Face saldırısı gibi gelişmelerin tempo belirleme anlaşmalarını mümkün kılıp kılamayacağı ve model yeteneklerini artırmaya geçici ara verme önerisinin uygulanabilir olup olmadığı ise açıkta kalıyor.