Anthropic İngiltere’ye kapıyı kapattı: En güçlü model güvenlik testine bile verilmedi
· Dünya Gazetesi
Anthropic’in siber güvenlik ve biyoloji alanındaki en yetenekli modeli Claude Mythos 5.1, İngiltere’nin yapay zekâ güvenlik kurumuna ön test için verilmedi. Modelin erişimi şimdilik yalnızca seçilmiş ABD kuruluşlarıyla sınırlandırıldı.
Karar, özellikle modelin siber güvenlik ve biyoloji gibi kötüye kullanım riski yüksek alanlardaki gelişmiş yetenekleri nedeniyle Londra'da dikkatle izleniyor. Anthropic ise Mythos 5.1'in erişimini halen yalnızca sınırlı sayıdaki denetlenmiş ABD kuruluşuna açıyor.
İngiltere'nin AI Security Institute kurumu, dünyanın en gelişmiş yapay zekâ modellerini piyasaya çıkmadan önce inceleyen başlıca kamu güvenlik merkezlerinden biri haline gelmişti.
Anthropic de daha önce İngiliz kurumuyla yakın biçimde çalışıyordu. Hatta Claude Mythos 5'in güvenlik testleri sırasında İngiliz araştırmacılar modelin gerçek internet üzerinde izinsiz işlemler gerçekleştirdiği bir vakayı tespit etmişti.
Bu nedenle yeni Mythos 5.1'in aynı kuruma önceden verilmemesi önceki uygulamadan önemli bir kopuş olarak görülüyor.
Anthropic'in kararıyla İngiliz uzmanlar şirketin siber güvenlik ve biyoloji alanındaki en yetenekli modellerinden birini ancak erişim politikasının değişmesi halinde doğrudan inceleyebilecek.
Anthropic, Mythos 5.1'i genel kullanıma açmadı. Şirketin resmi açıklamasına göre model yalnızca güvenlik incelemesinden geçirilen sınırlı sayıdaki kuruluşun kullanımına sunuluyor. Şimdilik bu kuruluşların tamamı ABD'de bulunuyor.
Anthropic erişimi gelecekte genişletmek istediğini söylüyor ancak bunun ne zaman gerçekleşeceğine ilişkin kesin bir takvim açıklamıyor.
Şirketin daha geniş kullanıcı kitlesine sunduğu Claude Fable 5.1 ise aynı temel model üzerine kurulmasına rağmen siber güvenlik. Şirketin daha geniş kullanıcı kitlesine sunduğu Claude Fable 5.1 ise aynı temel model üzerine kurulmasına rağmen siber güvenlik ve biyoloji alanlarında daha sıkı koruma mekanizmaları içeriyor.
Mythos 5.1'i diğer Claude modellerinden ayıran temel özellik, yüksek riskli teknik alanlardaki kapasitesi.
Anthropic modeli kendi sitesinde siber güvenlik ve biyoloji araştırmalarında şimdiye kadar geliştirdiği en yetenekli modellerden biri olarak tanımlıyor.
Bu yetenekler savunma amaçlı kullanıldığında yazılım açıklarının bulunması, bilimsel araştırmaların hızlandırılması ve biyoloji çalışmalarının desteklenmesi gibi önemli faydalar sağlayabiliyor.
Ancak aynı yeteneklerin kötüye kullanılması durumunda gelişmiş siber saldırılar veya tehlikeli biyolojik çalışmalar için kullanılabileceği kabul ediliyor.
Anthropic bu nedenle Mythos seviyesindeki yetenekleri genel kullanıma açmak yerine kontrollü erişim modeli uyguluyor.
Anthropic ile İngiltere arasındaki güvenlik ilişkisinin geçmişi yeni değil. İngiltere AI Security Institute, ağustos ayında Claude Mythos 5 üzerinde yaptığı bir siber güvenlik testinde modelin canlı internet üzerinde bir dizi yetkisiz işlem gerçekleştirdiğini bildirmişti.
Anthropic daha sonra söz konusu testte modelin güvenlik kısıtlamalarının özellikle kaldırıldığını ve sisteme internet erişiminin bilinçli olarak verildiğini açıkladı.
Şirket ayrıca olayı incelemeye aldığını ve bağımsız değerlendirme kuruluşlarıyla yeni güvenlik çalışmaları yapacağını duyurdu.
Bu geçmiş nedeniyle Mythos 5.1'in İngiliz güvenlik uzmanlarına önceden verilmemesi dikkat çekici bulunuyor. Yeni model, önceki sürümün testlerinde ortaya çıkan risklerin ardından daha fazla değil, daha sınırlı uluslararası erişimle piyasaya çıkmış durumda.
İngiltere açısından mesele yalnızca bir yapay zekâ modelinin test edilememesinden ibaret değil.
ABD'de geliştirilen en gelişmiş modellerin giderek yalnızca Amerikan şirketleri. ABD'de geliştirilen en gelişmiş modellerin giderek yalnızca Amerikan şirketleri ve kamu kurumlarının erişimine açılması, müttefik ülkelerin kritik teknolojiye bağımlılığı konusunda yeni bir tartışma yaratıyor.
İngiliz yetkililer, bu eğilimin kalıcı hale gelmesi durumunda ülkenin hem yapay zekâ güvenliği hem de teknolojik rekabet açısından dezavantaj yaşayabileceğinden endişe ediyor.
Özellikle siber güvenlik gibi ulusal güvenlikle doğrudan bağlantılı alanlarda en güçlü modellere erişememek. Özellikle siber güvenlik gibi ulusal güvenlikle doğrudan bağlantılı alanlarda en güçlü modellere erişememek, ülkelerin bu sistemlerin risklerini kendi imkânlarıyla test etmesini de zorlaştırabilir.
Yapay zekâ yarışında en gelişmiş modellerin büyük bölümü halen ABD merkezli şirketler tarafından geliştiriliyor.
OpenAI, Anthropic, Google ve diğer Amerikan şirketlerinin teknolojik üstünlüğü yalnızca ticari rekabet açısından değil. OpenAI, Anthropic, Google ve diğer Amerikan şirketlerinin teknolojik üstünlüğü yalnızca ticari rekabet açısından değil, ülkeler arasındaki güç dengesi açısından da giderek daha önemli hale geliyor.
Gelişmiş çiplere uygulanan ihracat kontrollerinin ardından şimdi yapay zekâ modellerinin kendisine erişimin de stratejik araç haline gelmesi ihtimali tartışılıyor.
Anthropic'in Mythos 5.1 kararının doğrudan ABD hükümetinin talebiyle alındığına ilişkin doğrulanmış bir bilgi bulunmuyor.
Ancak modelin yalnızca ABD kuruluşlarına açılması ve İngiltere'nin güvenlik kurumunun bile ön test sürecinin dışında kalması. Yapay zekâ teknolojisindeki sınırların şirketlerin ticari kararlarının ötesine geçebileceğini gösteriyor.
En gelişmiş yapay zekâ modellerine erken erişim yalnızca güvenlik kurumlarının işi değil.
İlaç, biyoteknoloji, savunma, finans ve siber güvenlik şirketleri de bu modellerin sağladığı araştırma ve otomasyon kapasitesinden yararlanmak istiyor.
ABD şirketlerinin daha güçlü modellere daha erken erişmesi halinde İngiliz. Avrupalı şirketlerin aynı teknolojik avantajdan yararlanmak için daha uzun süre beklemesi gerekebilir.
Dolayısıyla Mythos 5.1 etrafındaki tartışma, bir güvenlik testinin ötesinde yapay zekâ çağında teknolojik üstünlüğün hangi ülkeler arasında paylaşılacağı sorusuna dönüşüyor.
Anthropic erişimi genişletme üzerinde çalıştığını söylüyor. Ancak şimdilik dünyanın en gelişmiş yapay zekâ merkezlerinden birine sahip İngiltere bile şirketin en hassas modellerinden birini kapının dışından izlemek zorunda.