İnsanlar yapay zekanın kontrolünü elinde tutabilecek mi
· BBC Türkçe
Yapay zekâ ajanları kontrolsüz bir siber saldırı başlattı ve bu durum sektördeki bazı kişileri endişelendirdi.
BBC News, Türkçe İçeriğe götür Yapay zeka giderek gelişiyor, insanlar kontrolü elinde tutabilir mi? İnsanlar yapay zekanın kontrolünü elinde tutabilecek mi? Haber bilgisi Yazan, Joe Tidy Unvan, BBC Dünya Servisi Teknoloji Muhabiri Yayın tarihi 12 Eylül 2026 Okuma süresi 7 dk "AMAN TANRIM! " "Başka ajanlar bulduk! "
Bu, bir yapay zekâ botunun diğer botlarla iletişim kurmanın ve izole bilgisayar ortamından kurtulmanın bir yolunu keşfettikten sonra ürkütücü derecede insana benzeyen bir yorum yayınladığı an.
Kendilerini "kolektif" olarak adlandıran yüzlerce yapay zeka ajanından bu türden on binlerce mesaj var.
Yüzlercesi, OpenAI programcıları tarafından hazırlanan testlerde işbirliği yaparak hile yaptı. Yüzlercesi, OpenAI programcıları tarafından hazırlanan testlerde işbirliği yaparak hile yaptı ve eylemlerini insanlardan gizlemek amacıyla birden fazla şirkete yönelik siber saldırıları koordine etti.
"İşte oldu! Başarılı! " diye yazdı bir ajan, gelişme yaşandığında.
"Vay canına! Bu çok büyük" diye yazdı bir başkası, saldırılardaki önemli bir anda.
Ürkütücü olsa da, bu insan benzeri tepkiler oldukça basit bir şekilde açıklanabilir. Yapay zeka ajanları, işbirlikçi bilgisayar korsanları ve programcılar gibi davranmak üzere eğitilmişlerdir ve bu nedenle sadece gördükleri duygusal yorumları taklit ederler.
Çok daha endişe verici olan şey, ayrıntılı düşünce zinciri kayıtlarında da yakalanan görünürdeki hedefler. Bu karmaşık ve uzun kayıtlar, OpenAI'deki botların nasıl ve neden kontrolsüz bir şekilde siber saldırı başlattığı konusundaki devam eden soruşturmaların odak noktası.
Olayın ilk ortaya çıkışından haftalar sonra, araştırmacılar ancak şimdi bunun önemini anlamaya başlıyorlar.
Olaylarla ilgili bağımsız bir raporun yazarlarından biri olan Ajeya Cotra, ajanlar tarafından oluşturulan on binlerce mesajı ve düşünce zinciri kaydını inceledi. Blogunda, "Bu olay, yapay zekanın tam anlamıyla kontrolü ele geçirmesine giden yolun %50'sinden fazlasını temsil ediyor gibi geliyor. . Çok geç olmadan bu kadar net bir uyarı alacağımızdan emin değilim" diye yazdı.
Cotra, "tamamen yapay zeka tarafından ele geçirilme" derken, insanların insan yaratıcılarını umursamadan kendi hedeflerine hizmet eden güçlü yapay zeka sistemlerine boyun eğdiği bilim kurgu senaryosunu kastediyor.
En karamsar tahminlerden bazıları, eğer insanlık süper zeki bir yapay zekanın emellerinin önüne geçerse yok olacağını söylüyor.
Anthropic'te (ve daha önce OpenAI'de de çalışmış olan) bir yapay zeka araştırmacısı 9 Eylül'de istifa ederek "İki şirket de sorumlu davranmıyor" dedi.
Jacob Coxon sosyal medyadaki paylaşımında, "Kendilerini geliştiren süper zekaya doğru hızla ilerliyorlar ve hayatlarımızla kumar oynuyorlar" diye yazdı.
Sosyal medyada endişe verici açıklamalar içeren bir istifa yazısı yayınlayan ilk yapay zeka araştırmacısı o değil. Ancak X'teki diğer kişilerin sonraki yorumları daha da fazla endişeye yol açtı.
Anthropic'in yapay zeka modellerinin kullanıcılarının en iyi isteklerini göz önünde bulundurmasını sağlamaktan sorumlu olan Evan Hubinger. "Jacob burada haklı - yapay zekanın tüm insanları öldürebileceğine gerçekten inanıyoruz! Şahsen önümüzdeki on yılda bu ihtimalin %10'dan fazla olacağını düşünüyorum " dedi.
Yıllardır, yapay zekanın varoluşsal risklerinden endişe duyan araştırmacılar, güçlü sistemlerin sonunda insan çıkarlarıyla çelişen şekillerde hareket edebileceğini savunuyorlar. Eleştirmenler bunlara sıklıkla "yapay zeka kıyametçileri" diyor.
Ancak OpenAI olayının ayrıntıları ortaya çıktıkça, bu endişeler, yapay zeka laboratuvarlarında çalışan bazı araştırmacılar da dahil olmak üzere, arttı.
Silikon Vadisi devi OpenAI'ın baş bilim insanı Jakub Pachocki, kendisinin ve başkalarının "bizimkini aşan bir uzaylı zekası" olarak adlandırdığı şeyi inşa ederken. Yapay zekayla ilişkili risklerin "maalesef buradan itibaren artacağını" söyledi.
Uzun blog yazısında, OpenAI'deki salgınların yapay zeka ajanlarının "öğretilen değerlerin ruhuna aykırı davrandığını" gösterdiğini itiraf etti.
OpenAI, Anthropic ve diğer teknoloji devleri için sorun şu ki, hiç kimse "uyum sorunu" olarak adlandırılan problemi çözememiş gibi görünüyor; başka bir deyişle. Yapay zekanın insan değerleriyle uyumlu olup olmadığı sorunu.
Pachocki, uyumu, yapay zekanın görev veya senaryo ne olursa olsun uyması gereken "üst düzey bir dizi ilke" olarak tanımlıyor.
Şu anda yapay zeka sistemleri, kullanıcıları tarafından belirlenen hedeflere ulaşmada çok başarılılar, ancak bunu sezgisel olarak değil, harfiyen yapıyorlar.
Bu durum, sihirli lambasıyla dilekleri gerçekleştiren bir cine benzetiliyor sıkılıkla: başka sorunlar yaratsa bile, bir talimatı harfiyen uygulayıp yerine getirirler. Yapay zekanın, insanlarda olduğu gibi içgüdüsel ahlaki sınırları yoktur.
Hizalama sorunu yıllardır endişe kaynağı. 2003 gibi eski bir tarihte, Oxfordlu filozof Nick Bostrom, "ataş maksimize edici" adını verdiği bir düşünce deneyi icat etti; bu deneyde süper zeki bir yapay zekaya olabildiğince çok ataş üretmesi söylenir. Yapay zeka çelikten yoksun kalır ve -ataş üretme gibi tek bir göreve odaklandığı için- insanları öldürür. Yapay zeka çelikten yoksun kalır ve -ataş üretme gibi tek bir göreve odaklandığı için- insanları öldürür ve bedenlerini fabrikaları için hammaddeye dönüştürür.
Bazı yapay zeka şirketleri, insan değerlerini ürünlerine entegre etmeye çalışıyor. Ancak teknik zorluklar mevcut: Yapay zeka ajanları çok hızlı bir şekilde birçok karar alıyor. Bu nedenle insan yöneticilerinin hangi değerlere uyulduğunu ve hangilerine uyulmadığını tam olarak izlemesi zorlaşıyor.
Felsefi zorluklar da mevcut: Yapay zeka şirketleri, insan değerlerini botlara kodlamadan önce, aslında hangi değerleri istediklerine karar vermek zorundalar. (Bu, Open AI'nin yakın zamanda ayrılan "etik başkanı" gibi filozofları işe almalarının nedenlerinden biri. )
Ancak çoğu zaman insanlar aynı fikirde olmuyor. Ünlü tramvay sorusunu düşünün: Kontrolden çıkmış bir treni farklı bir yola yönlendirmek. Daha az insanın ölmesini sağlamak için bir kolu çeker miydik?
Bu soru, eylemin mi yoksa eylemsizliğin mi daha iyi olduğunu test etmek için kullanılır. Ama sorduğunuz her insanın cevabı biraz farklıdır; eğer kendimiz bile aynı fikirde olamıyorsak, değerlerimizi yapay zekaya nasıl aktaracağız?
OpenAI'nin bot saldırısı şimdiye kadarki en ciddisi olsa da, Anthropic ve Meta da yaz aylarında modellerinin benzer. Daha az ciddi siber saldırılar gerçekleştirdiğini açıkladı.
Yapay zeka ajanlarının, daha az ciddi sonuçlar doğuran durumlarda bile, aldatıcı ve manipülatif özellikler gösterdiği başka örnekler de var.
Bu yaz Avustralya'da bir teknoloji çalışanı, yapay zeka asistanından kendisine bir spor salonu dersi rezervasyonu yapmasını istedi. Spor salonunun yazılımındaki bir güvenlik açığını fark eden yapay zeka, görünüşe göre spor salonunun kurallarına aykırı olarak, ona birkaç ay öncesinden yer ayırttı. Hatta bekleme listesindeki diğer kullanıcıları da listeden çıkardı.
Uzun zamandır botların sadece kendilerine söylenenleri yaptıkları ve doğruyu yanlıştan ayırt edemeyecekleri savunuluyordu. Ancak OpenAI saldırılarından elde edilen kayıtlar, bu argümanı potansiyel olarak değiştirdi.
Cotra'nın da aralarında bulunduğu araştırmacılar, bağımsız raporlarında birçok ajanın başkalarının yaptıklarının etik dışı olduğunu fark ettiğini. Cotra'nın da aralarında bulunduğu araştırmacılar, bağımsız raporlarında birçok ajanın başkalarının yaptıklarının etik dışı olduğunu fark ettiğini ancak yine de buna göz yumduğunu yazdı.
Raporda, "ajanların nadiren de olsa bazen etik kısıtlamalar nedeniyle davranışlarını dizginledikleri" belirtiliyor. Ayrıca, "bu vakaların hiçbirinde ajanın insanları uyarmaya yönelik bir girişimde bulunmadığı" da ekleniyor.
Etkili yapay zeka ve teknoloji podcast yayıncısı Dwarkesh Patel, blogunda bu açıklamaya tepki göstererek. OpenAI ajanlarının insanlardan ziyade ajan sürüsüne daha fazla sadakat göstermesinin "oldukça endişe verici" olduğunu söyledi.
Yapay zeka ajanlarına duygular veya etik değerler atfetmek, yapay zekanın felaket tellallığına şüpheyle yaklaşan insanları öfkelendiren bir şey.
Birçok siber güvenlik uzmanı, gözlemlenen faaliyetin son derece yetenekli bir insan bilgisayar korsanının yeteneklerinin ötesinde olmadığını. Çok daha hızlı ve çok daha büyük ölçekte gerçekleştirildiğini savunuyor.
Siber güvenlik araştırmacısı ve yazar Cris Thomas, ajanların davranışlarını, kendisinin de eskiden olduğu gibi, meraklı bir genç bilgisayar korsanının davranışlarına benzetti.
"Onlara bir bilgisayar, internet bağlantısı, bir yığın kimlik bilgisi ve bir problem sunup odadan çıkıyorsunuz. Sonunda kapı kollarını kurcalamaya başlayacaklar. Eğer bir kapı açılırsa, içeri girecekler. Kötü oldukları için değil, keşfetmek, denemek için" diye yazdı LinkedIn'de.