OpenAI güvenlik uzmanı istifa etti: “Deneme-yanılma dönemi bitti”
OpenAI'de 3,5 yıl güvenlik ekiplerinde çalışan David Robinson, şirketin hızlı geliştirme kültürünü eleştirerek istifa ettiğini açıkladı. The Atlantic'te yayımlanan yazısında "deneme-yanılma zamanı bitti" diyen Robinson, yapay zekâ sistemlerinin nükleer enerji ve havacılık sektöründeki kadar sıkı güvenlik önlemleriyle geliştirilmesi gerektiğini savundu. Şirketin "yinelemeli dağıtım" yaklaşımının riskleri artırdığını, yeteneklerin hizalama araştırmalarından daha hızlı ilerlediğini belirten eski çalışan, OpenAI'nin 12 sınır model lansmanında güvenlik raporlarını denetlediğini de kaydetti. OpenAI ise modellerin güvenle yönetilebilecek seviyede tutulduğunu ve gerektiğinde eğitimin durdurulduğunu açıkladı.
Cem ÖzenenGiriş: 04 Ekim 2026 - 10:29 Güncelleme: 04 Ekim 2026 - 10:38
Google’da haber kaynağınızı Habertürk olarak seçmek için tıklayınYapay zeka sektörü hızla büyürken güvenlik kaygıları da aynı hızla artıyor. OpenAI gibi öncü şirketlerde yaşanan iç tartışmalar, teknolojinin sınırlarını zorlayan geliştirme temposunun insanlık için ne kadar risk taşıdığı sorusunu yeniden gündeme getirdi. Şirketin güvenlik kadrosundan ayrılan deneyimli bir isim, bu tempo yüzünden “kültür bozuldu” diyerek istifa ettiğini duyurdu. David Robinson’ın The Atlantic’te yayımlanan açık mektubu, yalnızca kişisel bir karar değil aynı zamanda tüm sektörün “hız mı, güvenlik mi?” ikilemini yeniden tartışmaya açan güçlü bir uyarı niteliği taşıyor.
David Robinson, OpenAI’de üç buçuk yıl boyunca güvenlik ekiplerinde görev yaptı. Bu süre içinde şirketin “hazırlık çerçevesi”ni (preparedness framework) hazırlayan isimler arasında yer aldı ve 12 sınır model (frontier model) lansmanının güvenlik raporlarını denetledi. Ancak son dönemde şirketin bir lansmandan diğerine koşar adım ilerlemesinin, gereken özen seviyesine ulaşmayı engellediğini savundu.
Robinson, The Atlantic’te yayımlanan “OpenAI’den Ayrıldım Çünkü Kültürü Bozuldu” başlıklı yazısında şu ifadeleri kullandı: “Şirket bir lansmandan diğerine koşarken, bana göre ihtiyaç duyulan özen seviyesine ulaşamıyor.”
REKLAMRobinson’ın en sert eleştirisi, OpenAI’nin “yinelemeli dağıtım” (iterative deployment) stratejisine yöneliyor. Bu yaklaşımda sistemler piyasaya sürülüyor, sorunlar ortaya çıktıkça güvenlik önlemleri güçlendiriliyor. Eski çalışan, ileri seviye yapay zeka sistemlerinin artık nükleer enerji santralleri veya havacılık sektöründe uygulanan sıkı güvenlik standartlarıyla geliştirilmesi gerektiğini savundu. “Deneme-yanılma dönemi bitti” diyen Robinson, yapay zeka şirketlerinin (OpenAI dahil) yeterince dikkatli davranmadığını ve daha yetenekli sistemler geliştirmeden önce güvenlik uzmanlığı ile araştırmaya öncelik vermesi gerektiğini vurguladı.
REKLAMRobinson, yapay zeka yeteneklerinin, sistemlerin insan hedefleri ve değerleriyle uyumlu davranmasını sağlamaya çalışan “hizalama” (alignment) alanındaki bilimsel anlayıştan daha hızlı ilerlediğini de kaydetti. Bu uyumsuzluğun, güvenlik kontrollerinin başarısız olduğu veya deneysel sistemlerin beklenmedik davranışlar sergilediği olaylarla birleşince sektördeki endişeleri artırdığını belirtti. OpenAI ve rakibi Anthropic’in de benzer güvenlik açıkları nedeniyle eleştirildiği hatırlatıldı.
OpenAI sözcüsü şirketin yaklaşımını savundu. Yapılan açıklamada, “Modellerimizin güvenle yönetebileceğimiz ve güvence altına alabileceğimiz seviyeden daha yetenekli hale gelmemesini sağlıyoruz. Yavaşlamamız gerektiğinde eğitimi durduruyor veya modelleri geri çekiyoruz” denildi. Bu açıklama, şirketin kontrollü ilerleme iddiasını sürdürdüğünü gösterirken, eski çalışanın eleştirileri sektördeki güvenlik tartışmalarını yeniden alevlendirdi.
REKLAMDavid Robinson’ın istifası ve yazısı, yapay zeka şirketlerinin hız ile güvenlik arasında kurduğu dengenin ne kadar kırılgan olduğunu bir kez daha ortaya koydu. Sektör, daha güçlü modeller üretirken aynı anda daha sağlam güvenlik mimarileri kurmak zorunda. Aksi halde “deneme-yanılma” döneminin bedeli, yalnızca şirketlerin itibarı değil, teknolojinin toplumsal kabulü de olabilir.
GÜNÜN ÖNEMLİ MANŞETLERİ
Yorumlar (0)
Giriş yaparak yorum yazabilirsin.
İlk yorumu sen yaz.