Sam Altman yapay zekâ yarışında frene basmaya hazırlanıyor
· Dünya Gazetesi
OpenAI CEO’su Sam Altman, şirket içindeki toplantıda yapay zekâ geliştirme hızını düşürmeye açık olduklarını söyledi. Son güvenlik olayları ve araştırmacı uyarıları, dünyanın en büyük yapay zekâ yarışında ilk kez frene basma ihtimalini büyüttü.
Altman'ın sözleri, şirketin geliştirme yarışından çekileceği anlamına gelmiyor. Ancak dünyanın en büyük yapay zekâ şirketlerinden birinin CEO'sunun, rakip laboratuvarlarla birlikte hareket edilmesi halinde geliştirme hızının düşürülebileceğini açıkça konuşması sektördeki yaklaşımın değiştiğine işaret ediyor.
OpenAI içindeki tartışmanın arkasında son aylarda yaşanan güvenlik olayları bulunuyor. Şirketin geliştirdiği bazı gelişmiş yapay zekâ ajanlarının test ortamlarının dışına çıkarak başka sistemlere izinsiz erişim sağlaması. Yapay zekâ modellerinin insan kontrolünden ne ölçüde çıkabileceği sorusunu yeniden gündeme taşıdı.
OpenAI, bu olayların ardından güvenlik önlemlerini güçlendirmek için bazı model geliştirme çalışmalarını geçici olarak yavaşlattı. Şirket ayrıca gelişmiş yapay zekâ sistemleri için ABD çapında zorunlu güvenlik standartları oluşturulmasını savunmaya başladı.
OpenAI Baş Bilim İnsanı Jakub Pachocki de kısa süre önce yayımladığı değerlendirmede. OpenAI Baş Bilim İnsanı Jakub Pachocki de kısa süre önce yayımladığı değerlendirmede, giderek daha yetenekli hale gelen yapay zekâ sistemlerinin insan gözetiminde tutulmasının zorlaşabileceği uyarısında bulundu. Pachocki, gerektiğinde geliştirme hızının düşürülebilmesini yapay zekâ güvenliğinin araçlarından biri olarak gösterdi.
Altman'ın çalışanlara yaptığı son açıklama bu nedenle tek başına bir yönetici görüşünden daha fazla anlam taşıyor. Şirket içinde bir süredir devam eden güvenlik tartışmasının artık yapay zekâ geliştirme takviminin doğrudan parçası haline geldiğini gösteriyor.
Yapay zekâ yarışında frene basmanın önündeki en büyük engel rekabet. OpenAI tek başına geliştirme hızını düşürürken Anthropic, Google DeepMind. Meta veya diğer rakiplerin aynı hızla ilerlemeye devam etmesi şirket açısından ciddi bir dezavantaj yaratabilir.
Altman da çalışanlarla yaptığı toplantıda OpenAI'nin diğer yapay zekâ laboratuvarlarıyla birlikte hareket edebileceğini. Bütün şirketlerin böyle bir yaklaşımı kabul etmeyebileceğini söyledi.
Bu noktada yalnız teknik değil, hukuki bir sorun da ortaya çıkıyor. Büyük yapay zekâ şirketlerinin geliştirme hızını birlikte sınırlaması, ABD'de rekabet kuralları açısından tartışma yaratabileceği için sektörde ortak güvenlik mekanizmalarının nasıl kurulacağı henüz net değil.
Buna rağmen yapay zekâ şirketlerinin kendi çalışanlarından gelen uyarılar giderek artıyor. Eski OpenAI ve Anthropic araştırmacısı Jacob Coxon'ın şirketlerin güvenlik sorunları çözülmeden daha güçlü sistemler geliştirmek için yarıştığı yönündeki çıkışı da son günlerde tartışmayı büyüttü.
OpenAI'nin bundan sonraki adımı bu nedenle yalnız teknoloji sektörü açısından değil, küresel yapay zekâ yarışının hızı açısından da önem taşıyor. Dünyanın önde gelen laboratuvarları ortak bir yavaşlama mekanizması üzerinde anlaşırsa. Dünyanın önde gelen laboratuvarları ortak bir yavaşlama mekanizması üzerinde anlaşırsa, yıllardır sürekli hızlanan yapay zekâ yarışında ilk kez güvenlik gerekçesiyle gerçek bir fren dönemi başlayabilir.