Anthropic CEO'su yapay zeka geliştirmesini yavaşlatmak için üç aşamalı plan sundu

· FikirPilot

Anthropic CEO'su yapay zeka geliştirmesini yavaşlatmak için üç aşamalı plan sundu

Dario Amodei, yapay zekanın hızlı ilerleyişine karşı bağımsız denetçiler, ortak güvenlik standartları ve uluslararası koordinasyonu içeren güvenlik önlemleri önerdi.

Anthropic CEO'su Dario Amodei, yapay zeka geliştirme sürecinin yavaşlatılması amacıyla üç aşamalı bir plan duyurdu. Amodei, teknolojinin son dönemdeki hızlı ilerlemesi ve yaşanan güvenlik olayları nedeniyle daha temkinli bir yaklaşıma ihtiyaç duyulduğunu belirtti.

Planın ilk aşamasında METR gibi bağımsız kuruluşlardan uzmanların şirketlerde görev yaparak güvenlik taahhütlerini denetlemesi yer alıyor. Şirket içi risk ekipleriyle benzer erişim haklarına sahip olacak bu denetim modeline OpenAI CEO'su Sam Altman da katılacaklarını bildirdi. İkinci adımda demokratik ülkelerdeki şirketlerin ortak güvenlik standartları belirlemesi ve ABD hükümetinin rekabet hukuku engellerini aşmak için muafiyet sağlaması öneriliyor.

Üçüncü aşamada ise otoriter yönetimlerle biyolojik silahların engellenmesi gibi sınırlı alanlarda küresel iş birliği yapılması hedefleniyor. Amodei, Çin'e gelişmiş çip satışının kısıtlanmasıyla ABD'nin liderliğini koruyabileceğini savunurken, Anthropic araştırmacısı Jacob Coxon ise şirketlerin insan hayatını riske attığını belirterek görevinden istifa etti.

Bu adım, Dario Amodei'nin yanı sıra Sam Altman ve Elon Musk gibi yapay zeka sektörünün önde gelen isimlerinin daha önce yaptığı geliştirme çalışmalarını yavaşlatma çağrılarının ardından gelen somut bir teklif niteliği taşıyor.

Arka plan

Kaynak: FikirPilot · TRBülten tarafından derlendi