ChatGPT ve OpenAI çalışanından korkutan iddia: "Yapay zeka 10 yıl içinde insanlığı yok edebilir"
· Cumhuriyet
Hem OpenAI hem de Anthropic’te ön eğitim (pretraining) araştırmacısı olarak çalışan Jacob Coxon. İki yapay zekâ devinin de sorumsuz hareket ettiğini belirterek görevinden istifa etti. Anlaşılan, coxon, şirketlerin kendi kendini geliştiren süper zekâya ulaşmak için insanlığın geleceğini tehlikeye…
Bütün Cumhuriyet arşivi her yerde ve her an yanınızda! İster telefondan, ister bilgisayardan. Cumhuriyet Arşiv 1930 Yılından Bugüne 5.485.115+ Haber Kupürü App Store Google Play 50 BİN + İndirme Size En Uygun Paketi Seçin 4.5 değerlendirme Abonelik Seçeneklerini İnceleyin Edebiyatın. Kültürün Nabzı Kitap dünyasına açılan kapınızı aralayın! En sevdiğiniz kitapları indirimli fiyatlarla keşfedin ve hayal gücünüzü genişletin.
Sektörün en kritik noktalarından biri olan ön eğitim (pretraining) alanında hem OpenAI hem de Anthropic çatısı altında üç yıl boyunca araştırmalar yürüten Jacob Coxon. Sektörün en kritik noktalarından biri olan ön eğitim (pretraining) alanında hem OpenAI hem de Anthropic çatısı altında üç yıl boyunca araştırmalar yürüten Jacob Coxon, yayınladığı bir açıklama serisiyle Anthropic'teki görevinden ayrıldığını duyurdu. Yapay zekâ dünyasında geniş yankı uyandıran açıklamasında Coxon, her iki şirketin de "sorumlu hareket etmediğini". Yapay zekâ dünyasında geniş yankı uyandıran açıklamasında Coxon, her iki şirketin de "sorumlu hareket etmediğini" ve kontrolden çıkma riski taşıyan bir teknoloji için aceleci davrandıklarını belirtti.
Geliştirilen modellerin çok kısa süre içerisinde sistemleri hackleyebilecek, bilimsel alanlarda anlık devrimler yapabilecek. Geliştirilen modellerin çok kısa süre içerisinde sistemleri hackleyebilecek, bilimsel alanlarda anlık devrimler yapabilecek ve kendi kaynaklarını yönetebilecek "süper insan" seviyesine ulaşacağını vurgulayan araştırmacı, şirket yönetimlerindeki tehlikeli algıya dikkat çekti: "Yapay zekâyı inşa eden insanlar, bu teknolojinin on yılın sonuna kadar hepimizin sonunu getirebileceğine samimiyetle inanıyor.
"Yapay zekâyı inşa eden insanlar, bu teknolojinin on yılın sonuna kadar hepimizin sonunu getirebileceğine samimiyetle inanıyor. Bu bir pazarlama hamlesi ya da abartı değil. Üst düzey yöneticiler ve kıdemli araştırmacılar basına kapalı kapılar arkasında bu korkularını açıkça ifade ediyorlar. "
Coxon, sektörün iki dev aktörü arasındaki yaklaşım farkına da değindi:
Coxon, devasa özel şirketlerin Slack kanallarından alınan kararlarla insanlığın kaderini belirleyecek bir "son oyun" (endgame) kumarına girilmesini "kibirli bir risk" olarak nitelendirdi.
Yapay zekâ laboratuvarlarındaki araştırmacılara da çağrıda bulunan Coxon. Yapay zekâ laboratuvarlarındaki araştırmacılara da çağrıda bulunan Coxon, zihniyetini tam olarak anlayamadıkları süper zekâ modellerini çalıştırmanın büyük bir tehlike taşıdığını ifade etti. Sektördeki yarış hırsını frenlemek adına gerekirse geçici durdurma kararları (moratoryum) veya laboratuvarlar arası hız kısıtlama anlaşmalarının şart olduğunu belirten Coxon. Yapay zekâ çalışanlarını "Zaten gerçekleşecek" diyerek sürece boyun eğmek yerine sorumluluk almaya davet etti.
https://x.com/hilbertspaess/status/2097476196791709843?s=46&t=vu1qOptJ9MGP4uVFoY8oaw com/hilbertspaess/status/2097476196791709843? s=46&t=vu1qOptJ9MGP4uVFoY8oaw