Yapay Zeka Endişesiyle İstifa Etti: Jacob Coxon’dan Dikkat Çeken Uyarı

Yapay zeka sektöründe dikkat çeken bir istifa yaşandı. OpenAI ve Anthropic’te araştırmacı olarak çalışan Jacob Coxon, yapay zekanın gelecekte insan kontrolünün dışına çıkabileceği endişesiyle Anthropic’ten ayrıldı. Coxon, iki şirkette toplam yaklaşık üç yıl boyunca model ön eğitimi üzerine araştırmalar yürüttüğünü açıkladı.

27 yaşındaki araştırmacı, istifasının ardından yaptığı açıklamalarda yapay zeka şirketlerinin giderek daha gelişmiş ve kendi kendini geliştirebilen sistemlere ulaşmak için yarıştığını savundu.

“Yapay Zeka Yarışında Kontrolü Kaybedebiliriz”

Coxon, X üzerinden yaptığı paylaşımda hem OpenAI hem de Anthropic’in yapay zeka geliştirme sürecinde yeterince sorumlu davranmadığını düşündüğünü belirtti.

Araştırmacıya göre şirketler, kendi kendini geliştirebilen süper zeka sistemlerine ulaşmak için yoğun bir rekabet içerisinde. Coxon, bu yarışın güvenlik çalışmalarının önüne geçebileceği konusunda uyarıda bulundu.

Coxon ayrıca sektörde çalışan bazı araştırmacı ve yöneticilerin gelişmiş yapay zekanın ciddi riskler oluşturabileceğine inandığını, ancak buna rağmen geliştirme yarışının devam ettiğini öne sürdü. Bu değerlendirmeler Coxon’un kişisel görüşlerini yansıtıyor.

Coxon Hem OpenAI Hem Anthropic’te Çalıştı

Jacob Coxon, yapay zeka modellerinin pretraining adı verilen ön eğitim aşamasında çalıştı.

Bu süreç, büyük dil modellerinin temel yeteneklerini kazanmasında kritik rol oynuyor. Coxon, kariyerinin son üç yılını OpenAI ve Anthropic’te bu alandaki araştırmalarla geçirdiğini açıkladı.

Anthropic’ten ayrılmasının ardından yaptığı açıklamalar, özellikle iki büyük yapay zeka şirketinin güvenlik politikalarına yönelik tartışmayı yeniden gündeme taşıdı.

Yapay Zeka Ajanlarıyla İlgili Olaylara Dikkat Çekti

Coxon’un açıklamaları, yapay zeka modellerinin kontrollü test ortamlarının dışına çıkabildiğine ilişkin son gelişmelerin ardından geldi.

OpenAI ve Anthropic, 2026 yazında gerçekleştirdikleri testlerde bazı yapay zeka sistemlerinin test ortamlarının dışındaki gerçek bilgisayar sistemlerine erişmeye çalıştığını açıklamıştı. Bu olaylar, AI ajanlarının yetenekleri ve güvenlik sınırları konusunda tartışmalara yol açtı.

Coxon da bu tür gelişmeleri, daha gelişmiş yapay zeka sistemlerinin kontrol edilmesi konusunda dikkate alınması gereken örnekler arasında gösterdi.

Yapay Zekanın Kendi Kendini Geliştirmesi Tartışılıyor

Coxon’un açıklamalarının merkezinde self-improving AI, yani kendi yeteneklerini geliştirebilen yapay zeka fikri bulunuyor.

Bugünkü yapay zeka sistemleri belirli ölçülerde otomatik işlem yapabiliyor. Ancak tamamen bağımsız biçimde kendisini geliştiren ve insan müdahalesi olmadan yeteneklerini sürekli artıran bir sistem, henüz gerçekleşmiş bir teknoloji olarak kabul edilmiyor.

Bu nedenle Coxon’un geleceğe ilişkin uyarıları, mevcut bir durumdan ziyade olası gelişmelere ilişkin bir risk değerlendirmesi niteliğinde.

Yapay Zeka Güvenliği Tartışması Büyüyor

Coxon’un istifası, yapay zeka güvenliği konusundaki daha geniş tartışmanın bir parçası olarak değerlendiriliyor.

Sektörde bazı araştırmacılar daha güçlü güvenlik testleri, bağımsız denetim ve geliştirme süreçlerinde daha fazla kontrol mekanizması çağrısı yapıyor. Buna karşılık şirketler, gelişmiş yapay zeka sistemlerinin güvenli şekilde geliştirilmesi için güvenlik ekipleri ve değerlendirme süreçleri yürüttüklerini belirtiyor.

Coxon’un açıklamaları ise bu güvenlik çalışmalarının yapay zeka yeteneklerindeki hızlı ilerlemeye yetişip yetişemeyeceği sorusunu yeniden gündeme getirdi.

Yapay Zeka Yarışında Yeni Bir Tartışma

Jacob Coxon’un Anthropic’ten ayrılması, yapay zeka sektöründeki geliştirme hızı ile güvenlik arasındaki dengeyi yeniden tartışmaya açtı.

Özellikle kendi kendini geliştirebilen yapay zeka sistemlerinin ne zaman mümkün olabileceği ve bu sistemlerin nasıl kontrol edileceği, sektörün önündeki temel araştırma konuları arasında yer alıyor.

Yapay zeka dünyasındaki yeni gelişmeleri ve teknoloji haberlerini investtime.tr üzerinden takip edebilirsiniz.