Yapay zekada büyük güvenlik açığı: Koruma bariyerlerini aştı

YAYINLAMA 30 Eylül 2026 08:08

GÜNCELLEME 30 Eylül 2026 08:09

Ekonomim haberlerini Google'da daha sık görün Ekonomim'i tercih ettiğiniz kaynaklara ekleyerek nitelikli haberlere daha kolay ulaşın.

BBC'de yer alan habere göre yapay zeka sistemlerinin güvenliğini test eden Mindgard, temmuz ayında gerçekleştirdiği çalışmalarda Moonshot'ın Kimi K2.6 ve K3 Swarm modellerinin geliştiriciler tarafından uygulanan bazı güvenlik sınırlarını aşabildiğini tespit ettiğini açıkladı.

Güvenlik bariyerleri aşılabildi

Söz konusu bulgular, yapay zeka sistemlerinin güvenlik mekanizmalarını test etmek amacıyla kullanılan "jailbreak" yöntemleri sırasında ortaya çıktı.

Araştırmacılar, modellerin normal koşullarda yanıt vermemesi gereken hassas konulara ilişkin taleplerde güvenlik önlemlerinin devre dışı bırakılıp bırakılamadığını test etti.

Mindgard, Kimi modellerindeki koruma mekanizmalarının hassas ve tehlikeli içeriklere yönelik talepleri engellemesi gerektiğini belirtti.

Moonshot inceleme başlattı

Moonshot AI ise yapay zeka sistemlerinin daha güvenli hale getirilmesinde bağımsız araştırmacıların katkısının önemli olduğunu belirterek Mindgard'ın bulgularını incelediğini açıkladı.

Şirket, araştırmacılarla iletişim halinde olduklarını ve ortaya konulan güvenlik sorunlarını değerlendirdiklerini bildirdi.

Siber güvenlik açısından da risk gündemde

Mindgard'ın değerlendirmesine göre, güvenlik önlemleri aşılmış bir yapay zeka modelinin bazı durumlarda bilgisayar kaynakları üzerinde kod çalıştırabilmesi ve internete erişebilmesi, siber güvenlik açısından yeni riskler oluşturabilir.

Şirket, bu tür yeteneklerin kötüye kullanılması halinde yapay zeka sistemlerinin siber saldırılarda kullanılabilecek bir araca dönüşebileceği uyarısında bulundu.

Mindgard ayrıca gerçekleştirdiği testlerde bazı modellerin son derece hassas konular hakkında yanıt üretmeye yönlendirilebildiğini belirtti. Ancak şirket, elde edilen yanıtların gerçek dünyada uygulanabilir sonuçlar doğurup doğurmadığını kanıtlamadığını da vurguladı.

Açık kaynak tartışması yeniden alevlendi

Bulgular, yapay zeka sektöründe kapalı ve tescilli modeller ile açık kaynaklı sistemlerin güvenlik açısından nasıl değerlendirilmesi gerektiğine ilişkin tartışmaların sürdüğü bir dönemde geldi.

ChatGPT ve Claude gibi sistemlerde kullanılan kapalı modellerin yanı sıra, geliştiricilerin üzerinde değişiklik yapabildiği açık kaynaklı modeller de sektörde yaygınlaşıyor.

"Düzenlemeler gelişim hızına yetişemeyebilir"

Surrey Üniversitesi'nden Prof. Alan Woodward, açık kaynaklı yapay zeka modellerinin kötüye kullanım açısından bazı riskler taşıdığını, ancak aynı teknolojilerin siber savunma amacıyla da kullanılabileceğini söyledi.

Woodward ayrıca yapay zeka teknolojisinin hızlı gelişiminin, uluslararası düzenlemelerin bu alandaki gelişmelere aynı hızda uyum sağlamasını zorlaştırabileceği değerlendirmesinde bulundu.