Anthropic’ten istifa eden araştırmacı: “Yapay zeka hepimizi öldürebilir”
· LOG - Teknoloji Haberleri
Anthropic’ten istifa ettiğini duyuran yapay zeka araştırmacısı Jacob Coxon, ChatGPT’yi geliştiren OpenAI. Zaten, claude’u geliştiren Anthropic’te geçirdiği üç yıllık sürenin ardından, her iki şirketin de yapay zeka konusunda sorumlu hareket etmediğini belirten önemli bir paylaşımda bulundu.…
Anthropic’ten istifa ettiğini duyuran yapay zeka araştırmacısı Jacob Coxon, ChatGPT’yi geliştiren OpenAI. Claude’u geliştiren Anthropic’te geçirdiği üç yıllık sürenin ardından, her iki şirketin de yapay zeka konusunda sorumlu hareket etmediğini belirten önemli bir paylaşımda bulundu. Coxon, şirketlerin kendi kendini geliştirebilen süper zekaya ulaşmak için yarıştığını ve bunun ciddi bir varoluşsal risk oluşturduğunu düşünüyor. Yapay zeka sistemlerinin yakın gelecekte insanüstü yeteneklere ulaşarak hemen her sistemi hackleyebileceğini, farklı alanlarda çok hızlı dönüşümler yaratabileceğini. Yapay zeka sistemlerinin yakın gelecekte insanüstü yeteneklere ulaşarak hemen her sistemi hackleyebileceğini, farklı alanlarda çok hızlı dönüşümler yaratabileceğini ve gerçek dünyada güç ve kaynak elde edebileceğini belirten Coxon, bu alanlardaki ilerlemenin şimdiden görüldüğünü söyledi. Coxon ayrıca yapay zeka sistemleri üzerinde çalışan bazı kişilerin, teknolojinin 2030’un sonuna kadar tüm insanlığı öldürebileceğine içtenlikle inandığını; yöneticiler ile kıdemli araştırmacıların kamuoyuna yaptıkları açıklamalarda daha ölçülü ifadeler kullansalar da özel konuşmalarda aynı korkuları dile getirdiklerini belirtti. Anthropic’ten Evan Hubinger ise Coxon’un bu değerlendirmesine katılarak yapay zekanın önümüzdeki on yıl içinde tüm insanlığı öldürme ihtimalini yüzde 10’un üzerinde gördüğünü söyledi. Hubinger, bunu önlemek için Anthropic’in elinden geleni yapmaya çalıştığına inandığını. Hubinger, bunu önlemek için Anthropic’in elinden geleni yapmaya çalıştığına inandığını ancak süper zekanın insan amaç ve değerleriyle uyumlu hale getirilmesi sorununu çözmeye yönelik henüz bir plan bulunmadığını aktardı.