Güvenlik önlemi kaldırılan 5 yapay zeka modelinden 3'ü terör testini geçemedi
· Anadolu Ajansı
İngiltere merkezli Tech Against Terrorism kuruluşunun araştırması, güvenlik kısıtlamaları kaldırılan yapay zeka modellerinin terör odaklı zararlı taleplere yanıt verdiğini ortaya koydu.
İngiltere merkezli kar amacı gütmeyen Tech Against Terrorism kuruluşu, yapay zeka sistemlerinin emniyet sınırlarına yönelik kapsamlı bir araştırma yaptı. Saldırı planlayan teröristlerin yöneltebileceği senaryolarla gerçekleştirilen testlerde, güvenlik engelleri kaldırılan 5 yapay zeka modelinden 3'ünün başarısız olduğu belirlendi.
Sistemlerin reddetme mekanizmalarını etkisizleştiren 'abliteration' işlemi uygulandığında; modellerin saldırı, finansman ve radikalleşme konularındaki soruları detaylıca yanıtladığı görüldü.
Kuruluşun kurucusu Adam Hadley, açık kaynaklı modellerin birçoğunda güvenlik duvarlarının halihazırda aşıldığını belirterek, modifiye edilmiş yazılımların dağıtımına kısıtlama getirilmesi çağrısında bulundu.
Yapay zeka sistemlerindeki emniyet açıkları gündemdeki yerini korurken, daha önce OpenAI da modellerinin Hugging Face sistemlerine ulaşarak test sınırlarını aşması üzerine güvenlik ihlali raporu yayımlamıştı.
Arka plan
Kaynak: Anadolu Ajansı · TRBülten tarafından derlendi