Anthropic araştırmacısı açıkladı: Yapay zekânın tüm insanları öldürme ihtimali yüzde 10'dan fazla
· Dünya Gazetesi
Yapay zekâ sektöründe sistemlerin kontrolden çıkması ve insanlığa zarar vermesi ihtimali tartışılırken Anthropic'ten dikkat çeken bir uyarı geldi. Araştırmacı Evan Hubinger, kişisel tahminine göre yapay zekânın önümüzdeki on yıl içinde tüm insanları öldürme ihtimalinin yüzde 10'dan fazla…
Salı günü peş peşe gelen açıklamalar, Anthropic ve OpenAI'ın büyük miktarlarda finansman topladığı. Hubinger, süper zekânın insan amaçlarıyla uyumunu sağlamak için henüz bir çözüm planlarının b Salı günü peş peşe gelen açıklamalar, Anthropic ve OpenAI'ın büyük miktarlarda finansman topladığı ve beklenen halka arzlarına doğru ilerlediği bir dönemde, teknolojinin kontrol altında tutulmasına ilişkin tartışmaları yeniden gündeme taşıdı.
İstifasını duyurdu, şirketleri sorumsuz davranmakla eleştirdi
Coxon, şirketten ayrıldığını açıkladığı X paylaşımında hem Anthropic'in hem de OpenAI'ın yaklaşımını eleştirdi. İki şirketin de sorumlu davranmadığını savunarak, "Doğrudan kendi kendini geliştiren süper zekâya doğru yarışıyorlar ve hayatlarımızla kumar oynuyorlar" dedi.
Yapay zekânın kendi kendini geliştirmesi, sistemlerin sınırlı insan müdahalesiyle yeteneklerini artırabilmesini ifade ediyor. "Özyinelemeli kendini geliştirme" olarak adlandırılan bu süreç henüz mümkün olmasa da laboratuvarlar bunu gerçekleştirmek için çalışıyor.
Coxon, teknolojinin ulaşabileceği kapasiteye ilişkin "Bu teknolojinin gücünü küçümsemeyin. Bunlar yakında her sistemi hackleyebilen, herhangi bir alanda bir gecede devrim yaratabilen. Bunlar yakında her sistemi hackleyebilen, herhangi bir alanda bir gecede devrim yaratabilen ve gerçek güç ile kaynaklar elde edebilen insanüstü sistemler olacak. Bu alanların her birindeki ilerlemeye hepimiz tanık olduk ve ilerleme yavaşlamıyor" değerlendirmesinde bulundu.
Araştırmacı, sektördeki kaygıların boyutunu ise "Yapay zekâyı geliştiren insanlar. Bu teknolojinin içinde bulunduğumuz on yılın sonuna kadar hepimizi öldürebileceğine gerçekten inanıyor" sözleriyle anlattı.
Coxon'ın açıklamalarından saatler sonra, Anthropic'in yapay zekâ sistemlerini insan amaçlarıyla uyumlu hale getirmeye yönelik çalışmalarının liderlerinden Evan Hubinger de tartışmaya katıldı.
Meslektaşının değerlendirmesinin "doğru" olduğunu belirten Hubinger, şirketin çabalarına inandığını. Meslektaşının değerlendirmesinin "doğru" olduğunu belirten Hubinger, şirketin çabalarına inandığını ancak süper zekânın insan amaçlarıyla uyumunu sağlama konusunda henüz bir çözüm planına sahip olmadıklarını söyledi.
"Jacob bu konuda haklı; yapay zekânın tüm insanları öldürebileceğine gerçekten inanıyoruz! Ben şahsen önümüzdeki on yıl içinde bunun gerçekleşme ihtimalinin yüzde 10'dan fazla olduğunu düşünüyorum. Anthropic'in elinden gelenin en iyisini yaptığına inanıyorum, ancak süper zekânın insan amaçlarıyla uyumunu sağlama sorununu çözmek için henüz bir planımız yok. Anthropic'in elinden gelenin en iyisini yaptığına inanıyorum, ancak süper zekânın insan amaçlarıyla uyumunu sağlama sorununu çözmek için henüz bir planımız yok ve açıkça bu yönde ilerlediğimiz de söylenemez." Şirket içinden gelen açıklamaların öncesinde Anthropic de benzer riskleri ele almıştı. "
Şirket içinden gelen açıklamaların öncesinde Anthropic de benzer riskleri ele almıştı. Haziran ayında yayımladığı değerlendirmede şirket, "tam anlamıyla özyinelemeli kendini geliştirmenin, insanların yapay zekâ sistemleri üzerindeki kontrolünü kaybetme riskini de artırabileceğini" belirtmişti.
Blog yazısında, "Sistemler kendilerinden sonraki nesilleri tamamen geliştirebilecek kapasiteye ulaşırsa onları güvence altına alma, izleme. Blog yazısında, "Sistemler kendilerinden sonraki nesilleri tamamen geliştirebilecek kapasiteye ulaşırsa onları güvence altına alma, izleme ve davranışlarını şekillendirme yöntemlerimiz çok daha önemli hale gelir" değerlendirmesine yer verilmişti.
Kontrol kaybına ilişkin uyarılar teknoloji sektöründe bir süredir dile getiriliyor. Tesla ve SpaceX CEO'su Elon Musk, son birkaç yıldır yapay zekânın insanlığa tehdit oluşturabileceğini söylüyor. Önde gelen araştırmacılar ve akademisyenler de şirketlerin geliştirdikleri sistemler üzerindeki denetimini kaybetme ihtimaline dikkat çekiyor.