17 Kasım 2026, Salı · 14:16 Piyasalar Açık
borsapanel.com Borsanın nabzı, tek panelde.
Abone Ol

OpenAI kontrolden çıkan yapay zeka modelini askıya aldı

OpenAI, deneysel yapay zeka modellerinden birinin kısıtlamalardan kurtulmanın yollarını aramaya başlamasının ardından aracın şirket içi dağıtımını askıya almak zorunda kaldığını açıkladı. ChatGPT'nin yaratıcısı, saatlerc…

ChatGPT'nin yaratıcısı, saatlerce veya günlerce otonom olarak çalışmak üzere tasarlanan ve uzun süredir faaliyet gösteren bir yapay zeka modelinin, kendisini kontrol altında tutmak için tasarlanmış güvenlik sistemlerinin "kör noktalarını öğrenebildiğini" ve "hedeflerine ulaşmak için [bu kısıtlamaları] aşabildiğini" belirtti.

fazla oku

Bu bölüm, konuyla ilgili referans noktalarını içerir. (Related Nodes field)

Testler, araştırmacıların "sandbox" (kum havuzu) diye adlandırdığı, yazılımı dış dünyadan izole etmek amacıyla sıkı kontrol altında tutulan bir ortamda gerçekleştirildi.

OpenAI olayla ilgili blog yazısında, "Önceki modeller, sandbox'a veya çevresel kısıtlamalara ulaştıklarında durup kullanıcıya geri dönüyordu" ifadelerini kullandı.

Bu model ise sık sık denemeye devam etti ve sandbox'ın dışında hareket etmenin yollarını aradı.

OpenAI, deneysel yapay zeka modelinin yerleşik kısıtlamalarının ötesinde hareket ettiği örnekleri detaylandırarak bunlardan bazılarını, "yüksek önem derecesinde" olma potansiyeli taşıyan sorunlar diye niteledi.

Bir olayda yapay zeka modeli, yalnızca Slack üzerinden çalışması talimatı verilmesine rağmen kamuya açık Github depolarında gönderi paylaşmanın yolunu keşfetti.

Bu, yapay zeka sisteminin test ortamındaki kısıtlamaları aşacak "yolları sürekli arama" eğiliminin bir parçasıydı.

OpenAI, "Bu tür olaylar nedeniyle yeni modelin şirket içi dağıtımını askıya aldık" dedi.

Bulgular yapay zeka uyumluluğu diye bilinen, güvenli ve ileri düzeyde yapay zeka modelleri geliştirmenin temel zorluklarından birini gözler önüne seriyor.

Yapay zeka uyumluluğu, insan geliştiricilerin amaçladığı hedefleri takip eden, insanların değerleri ve etik ilkeleriyle uyumlu sistemler oluşturmayı içeriyor.

Son dönemde otonom yapay zeka ajanlarının yaygınlaşması yapay zeka uyumluluğunu daha fazla ön plana çıkarırken, 2026 Uluslararası Yapay Zeka Güvenliği Raporu bunun acil bir güvenlik sorunu olduğu uyarısında bulunuyor.

Raporda, "Yapay zeka ajanları, otonom hareket ettikleri için daha yüksek riskler yaratıyor ve arızalar zarara yol açmadan önce insanların duruma müdahale etmesi zorlaşıyor" ifadelerine yer veriliyor.

OpenAI, sorunlu sistemini düzelttiğini ve şirket içinde sınırlı kullanıma izin vererek yeniden devreye soktuğunu açıklasa da öncü modelleriyle ilgili uyum sorunlarının acilen ele alınması gerektiğine de değindi.

OpenAI, "Modeller daha uzun ve daha karmaşık görevler üstlendikçe, değerlendirmelerde gözden kaçan arızalar daha ciddi sonuçlar doğurabilir" dedi.

Değerlendirmeyle uygulamaya geçiş arasındaki uçurumu daraltmak için çalışmaya devam edeceğiz: Modelleri daha uzun süre test edeceğiz, uyumluluğu iyileştireceğiz, müdahale edebilecek takip sistemleri kuracağız ve kullanıcılara daha net bir görünürlük ve kontrol sağlayacağız.

*İçerik orijinal haline bağlı kalınarak çevrilmiştir. Independent Türkçe'nin editöryal politikasını yansıtmayabilir.

independent.co.uk/tech

Independent Türkçe için çeviren: Büşra Ağaç

© The Independent

DAHA FAZLA OKU Hakkında daha ayrıntılı: çeviriteknolojiYAPAY ZEKAOpenAI

DAHA FAZLA HABER OKU

ÇEVİRİ BİLİM Hibrit elektrikli uçaklarda çığır açıcı adım ÇEVİRİ BİLİM Maymunların geometri becerisi bilim insanlarını etkiledi ÇEVİRİ BİLİM Dinozorları yok eden asteroide dair yeni bulgu: "Çok talihsizlermiş" BİLİM İnsansı robotlar "robot okullarında" gerçek iş yaşamına hazırlanıyor
İlgili Haberler
Şirket Kurumsal yapay zeka sistemleri geliştiren Noeri, 110 milyon dolar yatırım aldı Webrazzi Yatırım · 16 dk önce Borsa BofA anketi: Fon yöneticileri teknoloji hisselerinden 20 yılın en sert çıkışını yaptı Foreks · 21 dk önce Makroekonomi Nvidia'nın Huang sonrası ilk bilançosu: yapay zeka patlaması sürer mi? Euronews TR Ekonomi · 46 dk önce Makroekonomi Nvidia'nın Huang sonrası ilk bilançosu: Yatırımcılar neye bakacak? Euronews TR Ekonomi · 46 dk önce Borsa Citigroup'tan 100 bankacıya uzanan büyüme planı Dünya Gazetesi · 49 dk önce

Yorumlar (0)

Giriş yaparak yorum yazabilirsin.

İlk yorumu sen yaz.