OpenAI'ın baş bilim insanı: Yapay zekanın sonuçlarına kimse hazırlıklı değil
· BBC Türkçe
Bu paylaşım, firmanın bugüne kadarki en güçlü ürünü olduğunu söylediği GPT-6 Astra'yı piyasaya sürmesiyle aynı zamana denk geliyor.
BBC News, Türkçe İçeriğe götür OpenAI'ın baş bilim insanı: Yapay zekanın sonuçlarına kimse hazırlıklı değil Kaynak, Getty Images OpenAI'ın baş bilimcisi Jakub Pachocki, yapay zekanın kontrolsüz gelişmesi konusunda "aşırı dikkatli olunması" çağrısında bulundu ve "insanların geleceği kontrol etmeye devam etmesini" sağlamak için daha fazla müdahale gerekebileceği konusunda uyardı.
OpenAI'ın baş bilimcisi Jakub Pachocki, yapay zekanın kontrolsüz gelişmesi konusunda "aşırı dikkatli olunması" çağrısında bulundu. "insanların geleceği kontrol etmeye devam etmesini" sağlamak için daha fazla müdahale gerekebileceği konusunda uyardı.
Jakub Pachocki blog yazısında, "Makine zekasındaki sürekli ve hızlı yükselişin sonuçlarına kimsenin hazırlıklı olmamasından endişe duyuyorum" dedi.
Bu paylaşım, ChatGPT üreticisinin şimdiye kadarki en güçlü ürünü olarak adlandırdığı GPT-6 Astra'yı piyasaya sürmesinden sadece birkaç gün sonra geldi.
OpenAI'ın yanı sıra Anthropic gibi diğer yapay zeka firmaları, yapay zeka ajanlarının otonom olarak hareket ederek diğer şirketlere karşı siber saldırılar gerçekleştirdiğine dair açıklamalar yapmıştı.
Temmuz ayında OpenAI, insan talimatıyla tek başına çalışabilen yapay zeka sistemleri olan yapay zeka ajanlarının Hugging Face adlı teknoloji platformunu hacklediği olayın benzerinin görülmediğini söylemişlerdi.
Başka bir raporda, firmanın yapay zeka ajanlarının aylar önce bir Alman internet sitesini de ele geçirdiği iddia edildi.
Pachocki son blog yazısında, "İnanılmaz derecede zeki makinelerin olduğu bir dünyaya geçişle karşı karşıyayız. Bu geçişin insanlık için iyi sonuçlanmasını sağlamamız gerekiyor" diye yazdı.
OpenAI'ın "savunma sistemleri kurmaya" ve uyum sağlamaya yönelik teknik çözümler aramaya devam edeceğini söyledi. Uyum, bir makinenin eylemlerinin ve hedeflerinin insan niyeti ve güvenlik önlemleriyle mükemmel bir şekilde eşleşmesini sağlamak için kullanılan bir terim.
Pachocki, firmanın ilerleyen dönemdeki önceliklerinden birinin, insan araştırmacıların da sürecin bir parçası olarak kalmasını sağlarken. Yapay zekadaki gelişmelere ayak uyduracak "otomatik yapay zeka araştırmacısı" geliştirmek olacağını sözlerine ekledi.
Cambridge Üniversitesi Minderoo Teknoloji ve Demokrasi Merkezi Başkanı Profesör Gina Neff bu öneriyi, "İnsanların güvenliğini sağlamak için daha iyi yapay zeka önlemleri. Cambridge Üniversitesi Minderoo Teknoloji ve Demokrasi Merkezi Başkanı Profesör Gina Neff bu öneriyi, "İnsanların güvenliğini sağlamak için daha iyi yapay zeka önlemleri, düzenlemeler veya güvenceler yerine, bu sorunları araştırmak üzere dahili yapay zeka ajanları geliştirmeyi öneriyorlar" şeklinde değerlendirdi.
"OpenAI'ın modellerinin siber güvenlik, iş kayıpları, hatalar, yanlışlıklar. "OpenAI'ın modellerinin siber güvenlik, iş kayıpları, hatalar, yanlışlıklar ve dolandırıcılık gibi sorunlara yol açmasıyla ilgili artan endişelere verilen bu tür yanıtlar kesinlikle yeterli değil." Savunuculuk grubu Encode AI'ın genel hukuk müşaviri Nathan Calvin, gelişmiş yapay zeka modeli geliştirmenin içerdiği tehlikeler konusunda Pachocki ile aynı fikirde olduğunu söyledi, ancak OpenAI'ın şeffaf olmaya yanaşmadığını ve bunun da uyarıların "sadece kendi çıkarlarına yönelik abartı laflar" olarak değerlendirilme riskini taşıdığı anlamına geldiğini iddia etti. "
Savunuculuk grubu Encode AI'ın genel hukuk müşaviri Nathan Calvin, gelişmiş yapay zeka modeli geliştirmenin içerdiği tehlikeler konusunda Pachocki ile aynı fikirde olduğunu söyledi. OpenAI'ın şeffaf olmaya yanaşmadığını ve bunun da uyarıların "sadece kendi çıkarlarına yönelik abartı laflar" olarak değerlendirilme riskini taşıdığı anlamına geldiğini iddia etti.
X'te, "Jakub ve OpenAI'daki diğer kişiler, yapay zeka sektöründeki ilgili kişilerin işlerin yolunda gitmesi için onlarla birlikte hareket etmesini istiyorlarsa. X'te, "Jakub ve OpenAI'daki diğer kişiler, yapay zeka sektöründeki ilgili kişilerin işlerin yolunda gitmesi için onlarla birlikte hareket etmesini istiyorlarsa, yapabilecekleri en önemli şeylerden biri, temkinli olmaları gerektiğini düşündüren şeyler hakkında çok daha fazla bilgi paylaşmaktır" diye yazdı.
Küresel düzenlemeler, yapay zekanın gelişme hızına ayak uydurmakta zorlanıyor.
Avrupa Birliği'nin Yapay Zeka Yasası 2 Ağustos'ta yürürlüğe girdi ve OpenAI gibi yapay zeka devlerinin. Avrupa'da satılmalarına izin verilmeden önce en güçlü modellerinin otonom olarak siber saldırı başlatamayacağını veya insan kontrolünden kaçamayacağını kanıtlamalarını şart koşuyor.
Ancak yasanın yetki alanı Avrupa ile sınırlı olduğundan, başka bir yerde geliştirilen kontrolden çıkmış bir yapay zekanın kıtayı tehdit etmesini engelleyemez.
Pachocki blog yazısında, "üçüncü taraf denetçiler ağı" veya "devlet kurumları" tarafından uygulanabilecek. Pachocki blog yazısında, "üçüncü taraf denetçiler ağı" veya "devlet kurumları" tarafından uygulanabilecek, yasal veya uluslararası düzeyde zorunlu minimum güvenlik eşiklerinin belirlenmesi çağrısında bulundu.
Yapay zeka laboratuvarlarının, ölçeklendirmeye devam etmelerine veya gelişmiş modelleri kullanıma sunmalarına izin verilmeden önce bu eşikleri karşılamaları ihtiyacından söz etti.
Ortak güvenlik önlemleri oluşturulana kadar şirketlerin yapay zeka geliştirme süreçlerinin yavaşlatmasının yaygınlaşmasını umduğunu da sözlerine ekledi.
Ağustos ayında OpenAI, güvenliği artırmak için en gelişmiş yapay zeka modellerinden bazılarının eğitimini yavaşlattığını açıklamıştı.
25 Temmuz 2026 Dünyada anlık yapay zeka destekli beyin ameliyatı geçiren ilk hastanın tümörü alındı 27 Ağustos 2026 Haberin sonu
Orijinali İngilizce olan bu makalenin çevirisinde yapay zekadan yararlandık. Yayınlanmadan önce çeviriyi bir BBC gazetecisi kontrol etti. Yapay zekayı nasıl kullandığımız hakkında daha fazla bilgi burada.