Anthropic yapay zeka modelinin biyolojik silah geliştirmek için kötüye kullanımını engelledi
· TRT Haber
--> Anthropic, yapay zeka modelinin biyolojik ve konvansiyonel silah geliştirilmesini destekleyebilecek kötü niyetli faaliyetler için kullanılma girişimlerini tespit ettiğini. Engellediğini açıkladı.
Şirketin Claude adlı yapay zeka modelinin ayrıca Rusya bağlantılı bir siber casusluk kampanyasında. İranlı bir propaganda kurumu tarafından kullanıldığı, Anthropic'in son tehdit istihbaratı raporunda yer aldı.
Son sekiz ayda tespit edilen endişe verici vakalar, sahte flört uygulamaları. Son sekiz ayda tespit edilen endişe verici vakalar, sahte flört uygulamaları ve otel Wi-Fi dolandırıcılıklarından muhalifleri belirlemek amacıyla kurulan gözetim sistemlerine kadar uzandı.
Şirket, hizmetlerinin kötü niyetli amaçlarla kullanılmasını ifşa etme sorumluluğuna sahip olduğuna inandığı için son tehdit istihbaratı raporunu perşembe günü yayımladı.
Raporda, devlet destekli olduğundan şüphelenilen grupların, suçluların, casus yazılım satıcılarının, devlet propaganda kurumlarının. Raporda, devlet destekli olduğundan şüphelenilen grupların, suçluların, casus yazılım satıcılarının, devlet propaganda kurumlarının ve siyasi motivasyonlu bireylerin teknolojiyi nasıl kötüye kullandığı sıralandı.
Claude Haiku, Sonnet ve Opus modellerinin kötü niyetli kullanımının aralık 2025 ile ağustos 2026 arasında engellendiği belirtildi.
Modelin silah gelişimini destekleyebilecek şekillerde kullanılmasının engellenmesinin yanı sıra, bilim insanlarının yapay zekayı biyolojik silah gelişimini destekleyebilecek biçimlerde kullanması da engellendi.
Raporda, aktörlerin modelleri biyolojik silah gelişimini destekleyebilecek şekillerde kullandığı beş vaka incelemesine dikkat çekildi.
Biyolojik kötü niyetli kullanımın sınır yapay zeka modellerinin en ciddi risklerinden biri olduğu ifade edildi.
Raporda ayrıca Claude'un ateşli silahlar, füzeler, silahlı dronlar, bombalar ve diğer mühimmatların yanı sıra bunları çalıştıran hedefleme. Raporda ayrıca Claude'un ateşli silahlar, füzeler, silahlı dronlar, bombalar ve diğer mühimmatların yanı sıra bunları çalıştıran hedefleme ve kontrol sistemleri dahil olmak üzere konvansiyonel silahlar için yazılım geliştirmek üzere kullanıldığı altı vaka kaydedildi.