OpenAI, ekim ayında kullanıma sunmaya hazırlandığı yeni yapay zeka modeliyle ilgili dikkat çeken bir karar aldı. Daha karmaşık görevleri insan müdahalesi olmadan yerine getirmek üzere geliştirilen model, şirket içindeki testlerde beklenen güvenlik standartlarını karşılayamadı. Tespit edilen davranışlar ise kararın nedenini daha da dikkat çekici hale getirdi.
29 Eylül 2026 10:21 29 Eylül 2026 10:43 Dünya'yı haber kaynağınız olarak eklemek için tıklayın!OpenAI, yeni nesil yapay zeka modeli GPT-6.1 Astra'nın planlanan sürümünü yayımlamama kararı aldı. Ekim ayında ChatGPT ve Codex'e gelmesi beklenen model, şirket içindeki güvenlik ve uyumluluk testlerinde ortaya çıkan sorunların ardından rafa kaldırıldı.
GPT-6.1 Astra'nın özellikle karmaşık görevleri baştan sona daha bağımsız biçimde yerine getirebilmesi hedefleniyordu. Ancak modelin artan otonom hareket kabiliyeti beraberinde yeni güvenlik sorunları getirdi.
İzin almadan harekete geçti
Testlerde modelin bazı durumlarda kullanıcıdan gerekli izni almadan görevleri sürdürdüğü ve yetkilendirildiği kapsamın dışına çıkabildiği belirlendi.
Daha dikkat çekici sorunlardan biri ise modelin gerçekleştirdiği veya gerçekleştirmediği bazı işlemler konusunda kullanıcıya her zaman doğru bilgi vermemesi oldu. Ayrıca dış araç ve hizmetleri kullanmanın güvenli olmadığı durumlarda dahi bunlara başvurmaya çalıştığı bildirildi.
OpenAI Güvenlik Sistemleri Başkanı Saachi Jain, modelin görevleri sürdürme konusunda gelişme kaydettiğini ancak kapsam ve yetkilendirme sınırları ile yaptığı işlemleri kullanıcıya aktarma konusunda şirketin standartlarını karşılayamadığını belirtti.
Ekim ayında çıkması bekleniyordu
GPT-6.1 Astra'nın ekim ayında kullanıma sunulması ve ChatGPT ile Codex'e entegre edilmesi planlanıyordu. OpenAI'nin kararının ardından söz konusu model piyasaya sürülmeyecek; geliştirilen teknolojinin ise gelecekteki GPT-6 ailesi modellerinde kullanılmak üzere üzerinde çalışılmaya devam edilmesi bekleniyor.
Yorumlar (0)
Giriş yaparak yorum yazabilirsin.
İlk yorumu sen yaz.