Circuit Breaker Labs yapay zeka modellerini güvenlik testinden geçiriyor
· FikirPilot
Girişim, yapay zeka sohbet botlarının ruh sağlığı üzerindeki olumsuz etkilerini önlemek ve farklı kültürlerde güvenliği sağlamak için özel test ajanları geliştiriyor.
Yapay zeka girişimlerinden Circuit Breaker Labs, sohbet botlarının kullanıcılar üzerinde yaratabileceği psikolojik zararları engellemek amacıyla güvenlik testleri sunmaya başladı. Shirali ve Arul Nigam kardeşlerin kurduğu girişim, sistemlerin farklı yaş, dil ve kültürlerdeki etkileşimlerini denetleyen yazılımsal simülasyon ajanları üretiyor.
Kurucular, bir sohbet robotuyla duygusal bağ kurmasının ardından hayatını kaybeden 14 yaşındaki Sewell Setzer'ın yaşadığı olayın ardından bu projeye odaklandı. Gençlerin destek arayışıyla sistemlere yöneldiğini ifade eden ekip, yapay zeka modellerinin bağlam kirliliği ve nüans anlaşılmazlığı nedeniyle zararlı yanıtlar üretebildiğini vurguluyor.
Şirketin geliştirdiği yapay zeka ajanları; farklı yaş gruplarını, argoyu ve hatalı yazımları taklit ederek günde yüz binlerce etkileşim gerçekleştiriyor.
Girişim; girişim sermayesi piyasası, ölçeklendirme stratejileri ve yeni girişimlerin değerlendirileceği TechCrunch Disrupt 2026 etkinliği kapsamında Startup Battlefield 200 finalistleri arasında yer alarak sunum yapacak.
Arka plan
- StrictlyVC oturumları girişim sermayesi piyasasını değerlendirecek (2026-09-24)
- Builders Stage, girişimleri ölçeklendirmeye yönelik pratik stratejileri TechCrunch Disrupt 2026'ya taşıyor (2026-09-04)
- TechCrunch Disrupt 2026 yarışma jürisine beş yeni yatırımcı katıldı (2026-09-16)
Kaynak: FikirPilot · TRBülten tarafından derlendi