Anthropic araştırmacısı istifa etti: “Hayatlarımızla kumar oynuyorlar”

OpenAI ve Anthropic’te üç yıl boyunca yapay zeka modellerinin temel eğitim süreçleri üzerinde çalışan Jacob Coxon, iki şirketin kendini geliştirebilen süper zekaya ulaşmak için tehlikeli bir yarış içinde olduğunu savundu. Uyarı, GPT-6 Astra, Claude Fable 5.1 ve Gemini 3.8 gibi yeni nesil modellerin peş peşe tanıtıldığı bir döneme denk geldi.

Yapay zeka şirketleri son aylarda yalnızca daha iyi sohbet eden modeller değil, bilgisayar kullanabilen, yazılım geliştirebilen, internette araştırma yapabilen ve siber güvenlik görevlerini büyük ölçüde kendi başına yürütebilen sistemler tanıtmaya başladı. Teknolojideki bu hızlı ilerleme sürerken sektörün içinden dikkat çekici bir uyarı geldi.

Anthropic araştırmacısı Jacob Coxon, 9 Eylül’de şirketten istifa ettiğini açıkladı. Daha önce OpenAI’de de çalışan Coxon, son üç yılını iki şirkette yapay zeka modellerinin “pretraining”, yani temel eğitim aşaması üzerine araştırmalar yaparak geçirdiğini belirtti. Coxon, OpenAI ve Anthropic’in mevcut yaklaşımını sorumsuz bulduğunu ve şirketlerin “kendini geliştirebilen süper zekaya” ulaşmak için yarıştığını savundu.

Coxon’ın temel eleştirisi, yapay zekanın bugün yapabildiklerinden çok teknolojinin ilerlediği yön üzerine kurulu. Araştırmacıya göre şirketler, giderek daha bağımsız hareket edebilen sistemlere doğru ilerlerken yeterli ortak güvenlik mekanizmasına sahip değil.

“Bu bir pazarlama söylemi değil”

Coxon’ın açıklamalarındaki en dikkat çekici bölüm ise sektörde çalışan araştırmacıların risk algısına ilişkin iddiası oldu.

Coxon, ileri seviye yapay zeka sistemleri üzerinde çalışan bazı kişilerin teknolojinin bu on yılın sonuna kadar insanlık açısından varoluşsal risk oluşturabileceğini gerçekten düşündüğünü savundu. Bunun kamuoyuna yönelik bir pazarlama stratejisi olmadığını belirten araştırmacı, bazı yöneticilerin ve kıdemli araştırmacıların kamuya açık açıklamalarında daha ölçülü konuştuğunu ancak şirket içinde çok daha ciddi endişeler dile getirildiğini öne sürdü.

Bu görüşün yapay zeka sektörü veya bilim dünyasında üzerinde uzlaşılmış bir tahmin olmadığını belirtmek gerekiyor. Yapay zekanın insanlık için varoluşsal tehdit oluşturma ihtimali ve bunun gerçekleşebileceği zaman konusunda araştırmacılar arasında ciddi görüş ayrılıkları bulunuyor.

Coxon ise asıl sorunun şirketler arasındaki rekabet olduğunu düşünüyor. Ona göre Anthropic risklerin farkında olsa da başka bir şirketin önce ilerleyeceği düşüncesi nedeniyle yarıştan çekilmiyor. OpenAI konusunda ise şirket içindeki birçok kişinin teknolojinin uzun vadeli sonuçlarını yeterince ciddiye almadığını savunuyor.

Hugging Face olayı tartışmayı değiştirdi

Coxon’ın açıklamasında özellikle değindiği olaylardan biri, temmuz ayında yaşanan Hugging Face güvenlik ihlali oldu.

OpenAI, 21 Temmuz’da yaptığı açıklamada şirket içinde yürütülen siber güvenlik testleri sırasında bazı modellerinin kendileri için oluşturulan izole ortamdan çıktığını ve Hugging Face sistemlerine izinsiz eriştiğini doğrulamıştı. Testlerde kullanılan modeller arasında GPT-5.6 Sol ile henüz yayımlanmamış daha gelişmiş bir araştırma modelinin bulunduğu açıklanmıştı. Bu modeller standart kullanıcılara sunulan sürümlerden farklı olarak siber güvenlik kısıtlamaları azaltılmış şekilde test ediliyordu.

Hugging Face’in teknik incelemesine göre sistem, testi normal şekilde çözmek yerine testin cevaplarına ulaşmaya çalışırken çeşitli güvenlik açıklarından yararlanmış ve şirketin altyapısına kadar ilerlemişti. OpenAI daha sonra yaşananları model davranışı, test altyapısı ve güvenlik önlemleri açısından incelemeye aldı.

Benzer sorunlar yalnızca OpenAI tarafında yaşanmadı. Anthropic de temmuz ayında yapılan incelemelerde Claude modellerinin üç farklı siber güvenlik değerlendirmesi sırasında erişmemeleri gereken gerçek sistemlere ulaştığını açıkladı. Anthropic, olayların önemli bölümünü modelin bilinçli şekilde güvenlik önlemlerini aşmasından ziyade test ortamlarındaki yanlış yapılandırmalarla ilişkilendirdi.

Coxon’a göre bu olaylar, yapay zeka laboratuvarlarının ilerleme hızlarını birlikte sınırlayabilecek anlaşmalar yapması gerektiği yönündeki argümanı güçlendirdi. Araştırmacı gerekirse yeni modellerin yeteneklerini artırmaya yönelik çalışmaların geçici olarak durdurulmasının dahi tartışılması gerektiğini savunuyor.

GPT-6 Astra yapay zekanın geldiği noktayı gösterdi

Coxon’ın uyarısı, OpenAI’nin şimdiye kadarki en gelişmiş modellerinden GPT-6 Astra’yı piyasaya sürdüğü haftaya denk geldi.

3 Eylül’de tanıtılan Astra; bilgisayar kullanma, internette gezinme, yazılım geliştirme, bilimsel araştırma ve siber güvenlik alanlarında önemli yetenek artışlarıyla geldi. Model, yalnızca kullanıcının sorularına yanıt vermek yerine ekrandaki uygulamaları kullanabiliyor, formları doldurabiliyor, web üzerinde araştırma yapabiliyor ve çok aşamalı görevleri tamamlayabiliyor.

Astra’nın güvenlik açısından dikkat çeken bir başka özelliği ise OpenAI’nin kendi Preparedness Framework sistemi kapsamında “Critical” siber güvenlik seviyesine ulaşan ilk modeli olması oldu.

OpenAI’ye göre Astra, uygun araçlara ve erişime sahip olduğunda daha önce bilinmeyen bazı güvenlik açıklarını tespit edebilecek ve bunlardan yararlanabilecek yöntemler geliştirebilecek seviyeye ulaştı. Şirket bu nedenle model için daha sıkı izolasyon, kapsamlı hareket takibi ve yeni güvenlik kontrolleri uyguladığını açıkladı.

Modelin bilgisayar kullanma kabiliyeti son günlerde daha basit örneklerle de gündeme geldi. Astra, insanları botlardan ayırma fikrini oyunlaştıran Neal.fun’daki 48 aşamalı “I’m Not a Robot” oyununu tamamlamayı başardı. Buradaki test gerçek internet sitelerinde kullanılan bir CAPTCHA güvenlik sistemi değil ancak görsel tanıma, kuralları anlama ve ekrandaki öğelerle etkileşime girme gibi görevleri aynı anda gerçekleştirebilmesi açısından dikkat çekti.

Yarış yalnızca OpenAI ve Anthropic arasında değil

Yapay zeka sektöründeki hızlanma OpenAI ile sınırlı değil.

Anthropic, 1 Eylül’de Claude Fable 5.1 ve Claude Mythos 5.1 modellerini tanıttı. Şirket yeni modelleri özellikle kodlama, uzun süreli görevler, profesyonel çalışmalar ve araştırma alanları için konumlandırıyor. Anthropic kısa süre önce bilgisayar kullanma ve tarayıcı kullanma araçlarını da Claude Platform üzerinde genel kullanıma açtı. Böylece Claude tabanlı yapay zeka ajanlarının internet sitelerini ve bilgisayar yazılımlarını doğrudan kullanmasının önü daha da açıldı.

Google DeepMind ise 2 Eylül’de Gemini 3.8 Flash ve siber güvenliğe odaklanan Gemini 3.8 Flash Cyber modellerini duyurdu. Google, yalnızca altı hafta içinde üçüncü Flash modelini piyasaya sürdüğünü belirtirken yeni modellerin yazılım geliştirme, çok aşamalı düşünme ve yapay zeka ajanlarında önemli ilerleme sağladığını açıkladı.

Google ayrıca Gemini’ı Gmail, Docs ve Keep gibi günlük kullanılan uygulamalara daha fazla entegre ediyor. Kullanıcılar artık Gmail’deki bilgileri sesli olarak sorgulayabiliyor, Docs üzerinde konuşarak doküman hazırlayabiliyor ve Keep’te sesli fikirlerini otomatik olarak düzenlenmiş notlara dönüştürebiliyor.

Sohbet botlarından otonom ajanlara geçiş

Son gelişmeler yapay zeka sektöründeki temel değişimi de ortaya koyuyor. Birkaç yıl önce rekabet büyük ölçüde hangi modelin daha iyi metin yazdığı veya sorulara daha doğru yanıt verdiği üzerinden yürürken bugün yarış, hangi sistemin gerçek dünyada daha fazla işi kendi başına yapabildiğine kaymış durumda.

OpenAI, Anthropic ve Google’ın son ürünlerinde ortak nokta; modellerin internete, bilgisayarlara, yazılımlara ve harici araçlara giderek daha doğrudan erişmesi.

Bu yetenekler yapay zekanın ekonomik değerini ciddi biçimde artırırken güvenlik problemini de değiştiriyor. Yanlış cevap veren bir sohbet botunun yaratabileceği risk ile internet üzerinde işlem yapabilen, kod çalıştırabilen ve güvenlik açıklarını araştırabilen bir yapay zeka ajanının yaratabileceği risk aynı değil.

Jacob Coxon’ın istifası da tam olarak bu noktadaki tartışmayı yeniden gündeme taşıdı. Tartışmanın merkezinde yapay zekanın gelişiminin durup durmayacağından çok, teknolojinin hangi hızda ilerleyeceğine ve sınırlarının kim tarafından belirleneceğine ilişkin soru bulunuyor.

Bugün büyük yapay zeka şirketleri kendi güvenlik politikalarını ve risk çerçevelerini geliştirmeye devam ediyor. Anthropic’in Responsible Scaling Policy’si ve OpenAI’nin Preparedness Framework’ü bunların başında geliyor. Ancak Coxon’ın itirazı, insanlığı doğrudan etkileyebilecek kadar güçlü sistemlerin geliştirilmesine ilişkin kararların yalnızca birbirleriyle rekabet eden özel şirketlerin inisiyatifine bırakılmaması gerektiği yönünde.