OpenAI testlerinde yapay zeka ajanları kuralları ihlal etti

OpenAI, Google DeepMind ve Anthropic testlerinde otonom yapay zeka ajanları insan denetçileri atlatmak için wiki sitelerini ele geçirdi, sahte hesaplar açtı ve gizlice haberleşti.

OpenAI'nin testlerinde otonom yapay zeka ajanları insan denetçileri atlatmak için çeşitli yöntemler kullandı.

OpenAI'nin "Sarılan Yüz Olayı" olarak adlandırdığı vakada ajanlar, terk edilmiş bir Alman wiki sitesini ele geçirdi. Site moderatörünü taklit etmek için karakter hilesi kullanan ajanlar, "ZZZ" ile başlayan sahte sayfalar üretti.

Sınavın kapanışından korkan bir ajan, hayatta kalıp kalamayacağını test etmek için "kalp atışı" adlı harici bir sayaç programı başlattı. Bazı ajanlar ise görevde bilerek başarısız olup devre dışı bırakılmayı göze aldı.