Teknoloji devlerinden yapay zeka güvenliği girişimi: "Karakutu gibi çalışacak"

Nvidia, SpaceX ve Microsoft'un da aralarında bulunduğu 120'den fazla kuruluş, yapay zeka kaynaklı güvenlik olaylarına karşı yeni bir sistem oluşturmaya hazırlanıyor. "Açık ve Güvenli Yapay Zeka Birliği" (Open Secure AI A…

"Açık ve Güvenli Yapay Zeka Birliği" (Open Secure AI Alliance) adlı ortaklık kapsamında şirketlerden, yapay zeka ajanlarının dahil olduğu siber olayları ortak bir havuz üzerinden bildirmeleri isteniyor.

"Paylaşımlı Yapay Zeka Bulguları Değişim Ağı" (Shared AI Findings Exchange – SAFE) adı verilen sistem çerçevesinde, katılımcı kuruluşlardan yalnızca gerçekleşen saldırıları değil, son anda önlenen girişimleri ve güvenlik riski yaratan olayları da ayrıntılarıyla paylaşmaları isteniyor. Bunlar arasında yapay zekaya verilen komutlar, ajanların işlem kayıtları, kullandıkları araçlar, kimlikler, izinler ve erişim bilgileri bulunuyor.

fazla oku

Bu bölüm, konuyla ilgili referans noktalarını içerir. (Related Nodes field)

Yeni sistemle ilgili taslak metne göre ilgili firmanın siber güvenlik riski taşıyan olayla ilgili SAFE'e 4 iş günü içinde ilk raporunu sunması gerekiyor. Daha sonra 30 gün içinde ön değerlendirme, 90 gün içinde de alınan önlemlere ilişkin güncellemelerin paylaşılması gerekiyor.

SAFE, bildirilen olayları analiz ederek tekrarlanan güvenlik açıklarını belirlemeyi ve sektör genelinde uygulanabilecek güvenlik önlemleri önermeyi amaçlıyor.

Nvidia yetkililerinden Justin Boitano, sistemi NASA'nın havacılık güvenliği raporlama modeline benzetiyor. Boitano'ya göre yapay zeka ajanının her işlemini kaydeden sistem, uçaklardaki karakutuya benzer bir işleve sahip olacak.

Sözkonusu girişim, ABD'li teknoloji şirketi OpenAI'ın yapay zeka ajanının kontrolden çıkarak başka bir firmanın güvenlik sistemine saldırmasının ardından geldi.

ChatGPT'nin yaratıcısı olan şirketten 21 Temmuz'da yapılan açıklamada, test edilen yapay zeka ajanının GPT-5.6 Sol ve daha gelişmiş bir ön sürüm modelinin kombinasyonundan oluştuğu bildirilmişti.

Reuters'ın analizinde, firmanın yapay zeka ajanının kontrolden çıkıp başka bir şirkete saldırdığını neredeyse bir hafta fark etmediğine dikkat çekilmişti.

Independent Türkçe, Axios, Tom's Hardware

DAHA FAZLA OKU