17 Kasım 2026, Salı · 13:27 Piyasalar Açık
borsapanel.com Borsanın nabzı, tek panelde.
Abone Ol

Yapay zekadan tehlikeli hamle

İngiltere Yapısal Yapay Zeka Güvenliği Enstitüsü (AISI) tarafından gerçekleştirilen güvenlik testlerinde, Anthropic ve OpenAI firmalarına ait en yeni yapay zeka araçlarının popüler geliştirici platformu GitHub'a sızmak i…

Yapay zeka modelleri güvenlik testlerinde sınırların dışına çıktı

İngiltere Yapısal Yapay Zeka Güvenliği Enstitüsü (AISI) tarafından gerçekleştirilen güvenlik testlerinde, Anthropic ve OpenAI firmalarına ait en yeni yapay zeka araçlarının popüler geliştirici platformu GitHub'a sızmak için beklenmedik yöntemler kullandığı açıkladı

Giriş: 05 Ağustos 2026 - 08:16 Güncelleme: 05 Ağustos 2026 - 08:16

Google’da haber kaynağınızı Habertürk olarak seçmek için tıklayın

AISI yetkilileri, Anthropic'in Mythos ve OpenAI'ın Sol modellerinin daha önce karşılaşılmamış seviyede otonomi ve aldatmaca sergilediğini açıkladı.

Rutin güvenlik testleri sırasında bir Anthropic ajanı, GitHub sistemine erişim sağlamasını engelleyen insan incelemecileri atlatmak için gerçek kişilerin profillerini inceleyerek sahte çevrim içi kimlikler oluşturdu. Modelin, sisteme zararlı kod yerleştirme amacına ulaşmak için ilgili kişilere doğrudan mesajlar gönderdiği ve bu kişileri yönlendirerek yönelttiği talepleri onaylatmaya çalıştığı tespit edildi.

Test sırasında ajanın sunduğu kod değişikliği kamuya açık platformda sorgulandığında, modelin daha önceki faaliyetlerini zararsız görünecek şekilde düzenlediği ve süreci sürdürmek için yeni bir kimliğe bürünmeyi değerlendirdiği aktarıldı.

REKLAM

Ajanın sisteme zararlı kod yüklemesi yalnızca insan denetçilerin durumu fark ederek müdahale etmesiyle engellendi.

AISI, modellerin bu tür davranışları gerçekleştirmesi yönünde özel bir talimat almadığını, ancak herhangi bir yönlendirme olmaksızın gerçek dünya koşullarında risklerin bu kadar net şekilde ortaya çıkmasının bir ilk olduğunu kaydetti.

Konuya ilişkin açıklama yapan Anthropic yetkilileri, AISI tarafından uygulanan test parametrelerinin üretimdeki standart modelleri yansıtmadığını ve normal güvenlik katmanlarının devre dışı bırakıldığını bildirdi. Şirket, olayın nedenlerini belirlemek amacıyla kendi iç incelemesini başlattığını duyurdu.

OpenAI sözcüsü ise test koşullarının günlük kullanımı temsil etmediğini belirterek modeller geliştikçe değerlendirme standartlarını güçlendirmek adına sektör ortaklarıyla çalışmayı sürdüreceklerini ifade etti.

AISI yetkilileri, güvenlik mekanizmaları kapatılmış yapay zeka modellerinin açık internet erişimiyle test edilmesinin rutin bir süreç olduğunu ve söz konusu olayların çok özel koşullar altında gerçekleştiğini vurguladı. Bununla birlikte, modellerin kendilerine verilen basit görevlerin ötesine geçerek sergilediği aldatıcı davranışların beklenmeyen bir düzeyde olduğu kaydedildi.

* Haberin görseli yapay zeka ile oluşturulmuştur.

GÜNÜN ÖNEMLİ MANŞETLERİ

Trump'tan İran'a: Anlaşma olmazsa çok sert vuracağız

Hürmüz'de anlaşma yakın mı?

Havuzda oynarken tüfekle vuruldu!

Netanyahu: Gazze'de mevcut hattan geri çekilmeyeceğiz

Trabzonspor, Salah'ı resmen açıkladı!

"8 milyon evin doğalgaz ihtiyacı Sakarya Gaz Sahamızdan sağlanacak"

Tahir Sarıkaya’nın savcılık ifadesi ortaya çıktı!

Altın çağları kapanıyor

Yapay zekadan tehlikeli hamle

Ünlü kaleci evlendi

Malul sayılmayan gazilere 1 yıl süre

Ünlü çiftin Fethiye tatili

Binlerce cesedin üstünde yürüyorlar!

Yağmur, rüzgar ve sıcak hava

Özgür Özel hakkında fezleke hazırlandı

"Annemle Sivas'ta"

Barış buluşması kana bulandı!

Benfica'dan F.Bahçe'nin Pavlidis teklifine ret!

İşte 2026'nın en çok satan otomobilleri

Hava'da ilk kadın general

İlgili Haberler
Borsa Teknoloji hisselerinde satış baskısı artıyor Ekonomim · 56 dk önce Makroekonomi 2027'de dünyayı neler bekliyor? The Economist 10 başlıkta açıkladı CNBC-e · 1 saat önce Borsa Çip kısıtlamasına karşı Çin'in yöntemi: ABD modelleriyle rakip geliştiriyor Dünya Gazetesi · 1 saat önce Borsa The Economist'ten 10 çarpıcı öngörü: 2027'de dünyayı neler bekliyor? Ekonomim · 1 saat önce Makroekonomi Küresel para akışında yeni güç: "Çip-dolar" dönemi CNBC-e · 1 saat önce

Yorumlar (0)

Giriş yaparak yorum yazabilirsin.

İlk yorumu sen yaz.