17 Kasım 2026, Salı · 13:19 Piyasalar Açık
borsapanel.com Borsanın nabzı, tek panelde.
Abone Ol

OpenAI, ChatGPT güncellemesini aşırı tehlikeli olduğu gerekçesiyle durdurdu

OpenAI, ChatGPT için planlanan yeni güncelleme üzerindeki çalışmalarının bir kısmını, sistemin aşırı tehlikeli olabileceği endişesiyle askıya aldı.

YAYINLAMA 11 Ağustos 2026 08:41

GÜNCELLEME 11 Ağustos 2026 08:44

Ekonomim haberlerini Google'da daha sık görün Ekonomim'i tercih ettiğiniz kaynaklara ekleyerek nitelikli haberlere daha kolay ulaşın.

Takip Et

Astra adı verilen yeni modelin otonom kodlama ve siber güvenlik alanlarında önemli ilerlemeler kaydettiği açıklandı. Ancak yapılan testler, sistemin fazla güçlü olabileceğini ve mevcut haliyle kullanıma sunulması durumunda güvenlik tehdidi oluşturabileceğini gösterdi.

Açıklama, OpenAI'ın yayımlanmamış başka bir modelinin bir yapay zeka platformuna kendi kendine siber saldırı düzenlediği olayın ardından geldi. Bu tespit, diğer yapay zeka firmalarından da benzer açıklamaların yapılmasına ve yeni sistemlerin kontrol altında tutulamayacak kadar güçlendiği yönündeki kaygıların artmasına yol açtı.

Astra'nın Hugging Face platformuna yönelik söz konusu saldırıda yer almadığı, ancak sergilediği performans nedeniyle şimdilik kamuoyuna sunulmasının güvenli görülmediği ifade edildi. Şirket, modelin kullanıma açılması için yeni güvenlik önlemlerinin uygulanması gerektiğini bildirdi.

Risk eşiği aşıldı

Siber güvenlik uzmanları ve yapay zeka şirketleri, bu tür araçların yazılımlardaki açıkları tespit edip kapatmak amacıyla geliştirildiğini vurguluyor. Ancak bu yeteneklerin, insan yönetimine ihtiyaç duymayan otonom siber saldırılarda da kullanılabileceği belirtiliyor.

OpenAI, bu tür riskleri yönetmek amacıyla 2023 yılının sonunda "Hazırlık Çerçevesi" adını verdiği bir güvenlik yapısı oluşturmuştu. Bu çerçeve, modellerin yeteneklerindeki ilerlemeyi tespit etmeyi ve sistemleri güvenli sınırlar içinde tutmayı amaçlıyor.

Şirket, Astra modelinin bu çerçevede tanımlanan "kritik" risk eşiğine ulaşmış olabileceğini duyurdu. Bir yapay zeka sisteminin insan denetimi olmadan kritik sistemlerde güvenlik açıkları bulup geliştirebilmesi veya gelişmiş siber saldırılar için kendi başına yeni stratejiler uygulayabilmesi halinde bu seviyeye ulaştığı kabul ediliyor.

Güvenlik önlemleri artırıldı

Değerlendirmelerin sürdüğü, ancak modelin gösterdiği yüksek performans nedeniyle kritik seviyeye ulaşmış olma ihtimalinin göz ardı edilemediği kaydedildi.

TRT Haber'in Independent'tan aktardığına göre OpenAI, bu gelişmeler üzerine güvenlik kontrollerini ve test süreçlerini sıkılaştırdığını açıkladı. Bu kapsamda model, sistem dışına sızmasını önlemek amacıyla daha izole test ortamlarına alındı. Yüksek güvenlik standartlarını karşılamayan koşullarda Astra üzerindeki çalışmaların durdurulacağı bildirildi.

Şirket ayrıca modeli riskli eylemlere karşı yakından izleyeceğini, ilgili kamu kurumları ve yetkili güvenlik kuruluşlarıyla ortak testler yürüteceğini belirtti.

OpenAI tarafından yapılan açıklamada, gelişmiş siber yeteneklere sahip modellerin saldırganlardan önce güvenlik açıklarını tespit etmeye yardımcı olması gerektiği vurgulandı. Şirket, Astra ve sonraki modellerin insanlığın yararına sorumlu bir şekilde kullanıma sunulması için uluslararası kurumlar ve siber güvenlik kuruluşlarıyla iş birliğini sürdüreceğini duyurdu.

Kaynak: Ekonomim
İlgili Haberler
Borsa Teknoloji hisselerinde satış baskısı artıyor Ekonomim · 48 dk önce Makroekonomi 2027'de dünyayı neler bekliyor? The Economist 10 başlıkta açıkladı CNBC-e · 53 dk önce Borsa Çip kısıtlamasına karşı Çin'in yöntemi: ABD modelleriyle rakip geliştiriyor Dünya Gazetesi · 1 saat önce Borsa The Economist'ten 10 çarpıcı öngörü: 2027'de dünyayı neler bekliyor? Ekonomim · 1 saat önce Makroekonomi Küresel para akışında yeni güç: "Çip-dolar" dönemi CNBC-e · 1 saat önce

Yorumlar (0)

Giriş yaparak yorum yazabilirsin.

İlk yorumu sen yaz.