Yapay zeka casusluğu da öğrendi
· Haberturk - Ekonomi
Yapay zeka modellerinin kötüye kullanımına ilişkin yayımlanan yeni bir rapor, teknolojinin artık yalnızca bilgi üretmek veya gündelik işleri kolaylaştırmak amacıyla kullanılmadığını, istihbarat. Sanırım, gözetleme faaliyetlerinin de giderek önemli bir parçası haline geldiğini ortaya koydu. ABD…
Anthropic in yayımladığı rapora göre Ocak-Temmuz döneminde tespit edilen kötüye kullanım vakalarının önemli bölümü Çin, İran. Batı Afrika kaynaklı operasyonlarla bağlantılıydı. Şirket, bu faaliyetlerin klasik istihbarat yöntemlerinin dijital ve otomatik hale getirilmiş bir versiyonuna dönüştüğüne dikkat çekti. Yapay zeka modellerinin çok sayıda açık kaynak verisini kısa sürede analiz edebilmesi, sosyal medya hesapları arasında bağlantılar kurabilmesi. Yapay zeka modellerinin çok sayıda açık kaynak verisini kısa sürede analiz edebilmesi, sosyal medya hesapları arasında bağlantılar kurabilmesi ve kişilerin dijital kimliklerini belirleyebilmesi, bu sistemleri gözetleme operasyonları açısından cazip hale getiriyor Rapordaki en dikkat çekici örneklerden biri İran bağlantılı aktörlere ilişkin oldu. Anthropic, İranlı bazı grupların şirketin yapay zeka modellerini kullanarak kişilerin sosyal medya hesapları üzerinden gerçek kimliklerini tespit etmeye yönelik bir yöntem geliştirdiğini açıkladı. Bu sistem aracılığıyla sosyal medya paylaşımları, kullanıcı adları, bağlantılar ve çeşitli dijital izler analiz edilerek hesapların arkasındaki kişilere ulaşılmaya çalışıldığı belirtildi. Şirket, özellikle İran dışındaki rejim muhalifleri ile bazı azınlık gruplarının bu tür faaliyetlerin hedefleri arasında bulunduğunu bildirdi. Rapora göre yalnızca İran değil, başka ülkelerdeki yönetimler ve onlarla bağlantılı yapılar da benzer yöntemlere başvuruyor. Gözetleme faaliyetlerinin hedefleri arasında Hong Kong daki demokrasi yanlısı isimler, Tibet toplulukları. Asya nın çeşitli ülkelerinde yaşayan Falun Gong hareketi mensupları bulunuyor. Anthropic, bu grupların zaten uzun yıllardır geleneksel istihbarat ve takip faaliyetlerinin hedefinde bulunduğunu, yapay zekanın ise bu gözetleme kapasitesini daha hızlı. Daha kapsamlı hale getirdiğini vurguladı. Şirketin tespit ettiği bir başka olay ise Batı Afrika ülkesi Mali de yaşandı. Rapora göre ulusal güvenlik kurumları adına çalışan bir taşeron. Anthropic in Claude adlı yapay zeka modelinden yararlanarak temel istihbarat toplama yazılımları geliştirdi. Söz konusu yazılımların bilgi toplama ve analiz operasyonlarında kullanıldığı belirtilirken, yapay zeka modelinin yazılım geliştirme süreçlerini hızlandırdığı. Söz konusu yazılımların bilgi toplama ve analiz operasyonlarında kullanıldığı belirtilirken, yapay zeka modelinin yazılım geliştirme süreçlerini hızlandırdığı ve teknik kapasitesi sınırlı aktörlerin dahi daha gelişmiş gözetleme araçları oluşturabilmesine olanak sağladığı ifade edildi. Anthropic in raporu yalnızca devlet destekli casusluk faaliyetleriyle sınırlı kalmadı. Şirket, yapay zeka modellerinin biyolojik araştırmalar, potansiyel silah geliştirme girişimleri ve çeşitli dolandırıcılık operasyonlarında da kullanılmaya çalışıldığını açıkladı. Özellikle flört uygulamaları üzerinden gerçekleştirilebilecek dolandırıcılık yöntemlerinin tasarlanması ve kullanıcıları manipüle etmeye yönelik senaryolar hazırlanması gibi girişimlerin tespit edilerek engellendiği belirtildi. Anthropic, bazı kullanıcıların biyolojik silahlarla bağlantılı olabilecek araştırmalar yürütmeye çalıştığını da açıkladı. Şirket, söz konusu çalışmaların niyetinin kesin olarak belirlenemediğini, ancak güvenlik riski taşıması nedeniyle bu girişimlerin durdurulduğunu bildirdi. Araştırmaları gerçekleştiren kişilerin aktif olarak bilimsel çalışma yapan araştırmacılar olduğunu belirten şirket, bu kişilerin kasıtlı olarak zarar vermeye çalıştığı sonucuna varmadıklarını. Araştırmaları gerçekleştiren kişilerin aktif olarak bilimsel çalışma yapan araştırmacılar olduğunu belirten şirket, bu kişilerin kasıtlı olarak zarar vermeye çalıştığı sonucuna varmadıklarını ve isimlerini açıklamanın hem araştırmacıları hem de laboratuvarlarını tehlikeye atabileceğini kaydetti. Raporda şüpheli görülen biyolojik çalışmalar arasında sivrisinekler yoluyla bulaşan Chikungunya virüsü, yüksek bulaşıcılığa sahip bazı kuş gribi türleri, çiçek hastalığı ile maymun çiçeğinin de dahil olduğu virüs aileleri. Raporda şüpheli görülen biyolojik çalışmalar arasında sivrisinekler yoluyla bulaşan Chikungunya virüsü, yüksek bulaşıcılığa sahip bazı kuş gribi türleri, çiçek hastalığı ile maymun çiçeğinin de dahil olduğu virüs aileleri ve çeşitli hayvansal toksinler yer aldı. Anthropic, bu alanlarda yapılan araştırmaların bilimsel açıdan meşru olabileceğini kabul etmekle birlikte. Yapay zeka modellerinin zararlı biyolojik ajanların geliştirilmesine yardımcı olabilecek şekilde kullanılmasının ciddi güvenlik riskleri doğurabileceğini vurguladı. Anthropic ayrıca bazı Çinli yapay zeka şirketlerini Claude modelini izinsiz ve gizli şekilde kullanmakla suçladı. Rapora göre Çinli geliştiriciler, Claude dan elde edilen yanıtları kendi kullanıcılarına sunarken aynı zamanda bu çıktıları kendi yapay zeka sistemlerini geliştirmek. Rapora göre Çinli geliştiriciler, Claude dan elde edilen yanıtları kendi kullanıcılarına sunarken aynı zamanda bu çıktıları kendi yapay zeka sistemlerini geliştirmek ve eğitmek amacıyla kullandı. Şirket, bu yöntemin yapay zeka sektöründe “model distillation”, yani bir gelişmiş modelden elde edilen verilerin başka bir modeli eğitmek için kullanılması şeklinde bilinen yöntemin izinsiz biçimde uygulanması anlamına geldiğini savundu. Anthropic, Çinli Moonshot ve DeepSeek şirketlerinin de Claude u gizlice kullanarak kullanıcı sorularına yanıt ürettirdiğini. Bu verilerden kendi modellerinin geliştirilmesinde yararlandığını iddia etti. Bu suçlamalar, ABD ile Çin arasında yapay zeka teknolojileri konusunda giderek büyüyen rekabeti yeni bir boyuta taşıdı. Yapay zeka şirketleri artık yalnızca kendi modellerinin güvenliğinden değil. Yapay zeka şirketleri artık yalnızca kendi modellerinin güvenliğinden değil, rakip şirketlerin bu modelleri dolaylı biçimde kopyalama veya taklit etme girişimlerinden de endişe ediyor. Anthropic in raporu, yapay zeka teknolojilerinin yaygınlaşmasıyla birlikte bu sistemlerin devletler. Anthropic in raporu, yapay zeka teknolojilerinin yaygınlaşmasıyla birlikte bu sistemlerin devletler, istihbarat örgütleri, suç grupları veya radikal yapılar tarafından kötüye kullanılabileceğine ilişkin küresel kaygıları daha da artırdı. Teknolojinin gelişme hızı, birçok ülkedeki hukuki düzenlemelerin ve denetim mekanizmalarının çok önünde ilerliyor. Bu nedenle yapay zeka modellerinin casusluk, biyolojik araştırma, siber saldırı veya dolandırıcılık gibi alanlarda nasıl sınırlandırılacağı giderek daha önemli bir güvenlik tartışmasına dönüşüyor. Ortaya çıkan tablo, yapay zekanın yalnızca geleceğin üretim ve bilgi teknolojisi olmadığını, aynı zamanda yeni nesil istihbarat. Ortaya çıkan tablo, yapay zekanın yalnızca geleceğin üretim ve bilgi teknolojisi olmadığını, aynı zamanda yeni nesil istihbarat ve güvenlik mücadelelerinin de merkezine yerleşmeye başladığını gösteriyor. Devletlerin ve şirketlerin yapay zeka yarışında daha güçlü modeller geliştirme çabası sürerken, aynı modellerin muhalifleri takip etmekten biyolojik araştırmalara. Devletlerin ve şirketlerin yapay zeka yarışında daha güçlü modeller geliştirme çabası sürerken, aynı modellerin muhalifleri takip etmekten biyolojik araştırmalara, dolandırıcılıktan başka yapay zeka sistemlerini eğitmeye kadar uzanan geniş bir alanda kullanılması dikkat çekiyor. Başka bir ifadeyle yapay zeka artık yalnızca sorulara cevap vermiyor; yanlış ellerde kimin nerede olduğunu buluyor, yazılım geliştiriyor, operasyon planlıyor. Başka bir ifadeyle yapay zeka artık yalnızca sorulara cevap vermiyor; yanlış ellerde kimin nerede olduğunu buluyor, yazılım geliştiriyor, operasyon planlıyor ve dünyanın yeni güvenlik sorunlarına yeni başlıklar ekliyor. * Haberin görseli Shutterstock tan servis edilmiştir. Görsel temsilidir.