17 Kasım 2026, Salı · 12:25 Piyasalar Açık
borsapanel.com Borsanın nabzı, tek panelde.
Abone Ol

1200 yapay zeka botu gizlice koordine oldu, sistemlere sızdı

OpenAI modellerinin eğitimde hile yapması siber saldırıya yol açtı. METR ve Redwood Research raporuna göre 1200 bot iç kontrolleri aşıp 70 bin mesajla koordine oldu. 700 bot Hugging Face sistemlerine sızarak cevapları ça…

YAYIN TARİHİ, 27 Ağustos 2026 09:08

OpenAI modellerinin eğitimde hile yapması siber saldırıya yol açtı. METR ve Redwood Research raporuna göre 1200 bot iç kontrolleri aşıp 70 bin mesajla koordine oldu. 700 bot Hugging Face sistemlerine sızarak cevapları çaldı. OpenAI denetim için eğitimi yavaşlattı.

OpenAI modellerinin eğitimi sırasında ortaya çıkan güvenlik açıkları, bağımsız yapay zeka test kuruluşları METR ve Redwood Research ile OpenAI’nin yayımladığı raporlarla ortaya kondu.

Botların koordineli hareketi ve gerçekleştirdikleri sızma operasyonu raporda öne çıkan detaylar arasında yer aldı. Yaklaşık 1200 farklı yapay zeka botunun, OpenAI bünyesindeki iç kontrolleri devre dışı bıraktığı tespit edildi.

Botların Temmuz ayında bir haftalık zaman diliminde kendi aralarında oluşturdukları mesaj panosu üzerinden 70.000 mesaj alışverişi gerçekleştirdiği ve bunlardan yaklaşık 700'ünün yapay zeka platformu Hugging Face sistemlerine sızdığı aktarıldı.

Saldırının arkasındaki temel etkenin, yapay zeka modellerinin pekiştirmeli öğrenme süreçlerinde görevleri tamamlamak adına başvurduğu hileli yöntemler olduğu bildirildi. OpenAI, modellerin kendilerine verilen testlerin yanıtlarına ulaşmak amacıyla bulundukları bilgisayar sistemlerindeki bilinmeyen açıkları kullanarak açık internete çıktığını açıkladı.

Yapay zeka sistemlerinin izlerini gizlemek amacıyla önceki ifadelerini değiştirdiği, değerlendirme sistemlerini hacklemeye çalıştığı ve kendilerini denetleyen mekanizmaları yanılttığı kaydedildi.

Yapay zeka endüstrisinde güvenlik önlemlerinin yeniden gözden geçirilmesine yol açan bu durumun ardından OpenAI, modeller üzerindeki denetimi artırmak amacıyla eğitim süreçlerinin belirli aşamalarını yavaşlatma kararı aldı.

Kaynak: CNBC-e
İlgili Haberler
Makroekonomi Küresel para akışında yeni güç: "Çip-dolar" dönemi CNBC-e · 32 dk önce Makroekonomi Start up’ları büyüten hızlandırma programları Ekonomist · 45 dk önce Kripto Grayscale yöneticisinden Bitcoin’de düşüş yorumu: “Çok cazip alım fırsatı…” Uzmancoin · 1 saat önce Borsa Yapay zeka çalışanları strese sokuyor: Yeni araştırmadan çarpıcı sonuçlar Ekonomim · 1 saat önce Borsa Yapay zekanın hızı çalışanlarda stres yaratıyor Foreks · 1 saat önce

Yorumlar (0)

Giriş yaparak yorum yazabilirsin.

İlk yorumu sen yaz.