Yapay zekanın geliştirilmesi nasıl yavaşlatılabilir
· BBC Türkçe
Yapay zeka geliştiren şirketlerin üst düzey yöneticileri, varoluşsal tehditlere ilişkin uyarılarını artırırken yapay zekanın geliştilmesi nasıl yavaşlatılabilir? BBC Teknoloji ve Yapay Zeka Editörü Zoe Kleinman'ın analizi
BBC News, Türkçe İçeriğe götür Yapay zekanın geliştirilmesi nasıl yavaşlatılabilir? Kaynak, Getty Images Gündemi BBC Türkçe'den takip etmek artık WhatsApp'ta da mümkün.
Gündemi BBC Türkçe'den takip etmek artık WhatsApp'ta da mümkün. Haberlerimizin doğrudan telefonunuza gelmesi için tıklayın.
Yapay zeka geliştiren şirketlerin üst düzey yöneticileri, yıllardır varoluşsal tehditlere ilişkin uyarılar yapıyor.
Kasım 2023'te Bletchley Park'ta düzenlenen dünyanın ilk yapay zeka güvenliği zirvesine katılmıştım. Zirvenin odağında, en güçlü yapay zeka modellerinin yaratabileceği, hayal edilebilecek en ciddi tehditler vardı.
O dönemde birçok kişi bunun bilim kurgu alanına girdiğini, asıl tehditlerin ise kıyaslandığında çok daha sıradan olduğunu düşünüyordu: İş kayıpları. O dönemde birçok kişi bunun bilim kurgu alanına girdiğini, asıl tehditlerin ise kıyaslandığında çok daha sıradan olduğunu düşünüyordu: İş kayıpları ve sınavlarda kopya çekilmesi gibi... .
Üç yıl sonra, aynı seslerin çoğu artık bundan o kadar da emin görünmüyor.
Cumartesi günü yapay zeka şirketi Anthropic'in başındaki isim Dario Amodei, yapay zeka geliştirme hızının yavaşlatılması çağrısında bulundu.
Rakip iki yapay zeka şirketinin yöneticileri, OpenAI'den Sam Altman ve Elon Musk da kendisiyle aynı fikirde olduklarını söyledi.
Bu arada Anthropic'ten ayrılan yapay zeka araştırmacısı Jacob Coxon, pazar günü BBC'ye yaptığı açıklamada. Bu arada Anthropic'ten ayrılan yapay zeka araştırmacısı Jacob Coxon, pazar günü BBC'ye yaptığı açıklamada, sistemleri geliştiren çalışanların insanlığın geleceği konusunda "gerçekten korktuğunu" söyledi.
Bütün bunlar, yavaşlama çağrısı yapan ciddi isimlerden oluşan bir koroya dönüşüyor. Ancak bu kulağa hızlı bir çözüm gibi gelse de uygulanması hiç de kolay değil.
Amerika'nın en güçlü yapay zekayı geliştirme yarışını Çin'e kaptırmaktan büyük endişe duyduğu yaygın olarak kabul ediliyor.
Pazar günü Başkan Trump da kendi görüşünü açıkça ortaya koydu. ABD'nin yapay zeka yarışında Çin'in önünde olduğunu iddia etti ve "Yapay zeka yarışını kazanan her şeyi kazanır" dedi.
Çin'in ikinci olmak istemesiyle tanınan bir ülke olmadığı da ortada.
Görüştüğüm herkes, kendi şirketleri duraklasa bile diğerlerinin durmayacağını ve böylece geride kalacaklarını söylüyor.
Bu bana nükleer silahsızlanma kampanyasının en yoğun dönemini hatırlatıyor.
O zaman da sorun aynıydı: İlk adımı kimse atmak istemiyordu.
Yapay zeka şirketlerinin ne yaptıkları ve daha önemlisi ne yapmamayı tercih ettikleri konusunda şeffaf olmalarına mı güveneceğiz?
Bu, muazzam düzeyde bir güven gerektirirdi ve teknoloji sektörünün böyle bir güveni hiçbir zaman kazanamadığı ileri sürülebilir.
Amodei paylaşımında, geliştirilmekte olan yapay zeka modellerinin bağımsız şekilde izlenmesini, sektör genelinde düzenleme yapılmasını. Amodei paylaşımında, geliştirilmekte olan yapay zeka modellerinin bağımsız şekilde izlenmesini, sektör genelinde düzenleme yapılmasını ve küresel düzenleme oluşturulmasını içeren üç maddelik bir plan önerse de bazı gözlemciler bunun pratikte nasıl işleyeceğini sorguluyor.
Çin ise Anthropic yöneticisi Amodei'nin "Çin'in yapay zekadaki ilerleyişi ABD için ulusal güvenlik riski olur" açıklamasını eleştirdi.
EZ Primary Research CEO'su Ed Zitron, "Kimse 'yavaşlamanın' ne anlama geldiğine dair somut bir açıklama yapmadı" diyor:
"Anthropic'ten ayrılan kişilerden birinin gittiği bir ekipten temsilcileri her yapay zeka şirketine yerleştirmek mi? Demokratik ve küresel 'eşgüdüm' mü? Bana hiçbir şey ifade etmiyor. "
Zitron, yapay zeka modellerinin eğitimini durdurmanın onları Çinli rakipler karşısında savunmasız bırakacağı görüşünde:
"Kâr marjları iyileşebilir ama ürünleri dondurulmuş halde kalır ve Çin laboratuvarları tarafından kendi yapay zekalarını geliştirmek için kullanılır.
"Fiyatlandırmalarını değiştirmek zorunda kalabilirler. Bunun nasıl işleyeceğini gerçekten bilmiyorum.
"Bu balonu patlatabilir. Ama şu anda 'yavaşlamanın' ne anlama geldiğine dair elimizde çok az şey var. "
Birleşik Krallık'ta teknolojinin hasta bakımını iyileştirmek amacıyla NHS içinde daha yaygın kullanılmasına yönelik planları. Yapay zekanın yaz aylarında Birleşik Krallık ekonomisinin büyümesine çok ihtiyaç duyulan bir destek sağladığını duyduk.
Hepimiz iş yerinde, eğitimde ve kişisel hayatlarımızda yapay zekayı giderek daha fazla kullanmaya teşvik ediliyoruz.
Sektör, Birleşik Krallık'ın ekonomik büyümeyi hızlandırma stratejisinin kilit bir parçası.
Öyleyse bir yavaşlama gelecekteki ekonomik beklentileri zedeleyebilir mi?
Yapay zeka sektörü muazzam miktarda para ve doğal kaynak tüketiyor ve şu ana kadar buna karşılık gelen düzeyde gelir yaratmıyor.
Teknolojiyi benimseyen bazı şirketlerin hayal kırıklığına uğradığını öne süren çok sayıda rapor bulunuyor.
Ekonomistler, mevcut devlerin tümünün ayakta kalamayacağı ve bir tür "dengelenme" sürecinin yaklaşmakta olduğu. Ekonomistler, mevcut devlerin tümünün ayakta kalamayacağı ve bir tür "dengelenme" sürecinin yaklaşmakta olduğu, yani bir balonun patlayacağı yönünde yaygın biçimde spekülasyon yapıyor.
Ancak bunu başarabilen şirketler dünyanın şimdiye kadar gördüğü en güçlü mega şirketlere dönüşebilir ve bunun da kendine özgü sorunları var.
OpenAI'nin borsaya açılma yönündeki ilerleyişini durdurmayı seçmesi, kamu güvenliği konusunda sorumluluk alındığını gösteren bir aydınlanma anı olarak görülebilir.
Ancak bu aynı zamanda, tüm ürünü ölümcül olarak algılanırken ihtiyaç duyduğu kazançlı getiriyi elde edemeyebileceğini fark etmiş bir şirketin hamlesi de olabilir.
Birleşik Krallık merkezli yapay zeka şirketi Synthesia'dan Alexander Voica, "Şu anda karşı karşıya olduğumuz muhtemelen en büyük zorluklardan biri. Hiç kimsenin bu teknolojinin nasıl gelişeceğini kesin olarak öngörememesi" diyor:
"Bu sistemlerin daha güçlü hale geldiğini biliyoruz ama nerede ve nasıl kullanılacaklarını bilmiyoruz.
"Ayrıca potansiyellerinden tam anlamıyla yararlanmanın bir yolunu henüz bulmuş değiliz.
"Benim tek endişem, hala çok sayıda açık soru varken düzenleme konusunda acele edilmesinin ters tepebileceği. "
Kaynak: BBC Türkçe · TRBülten tarafından derlendi