Anthropic CEO’sundan yapay zekâda hız kesme çağrısı: Güvenliğe zaman ayırın

Anthropic CEO’su Dario Amodei, yapay zekâ şirketlerine model geliştirme hızını yavaşlatarak güvenlik çalışmalarına daha fazla zaman ayırma çağrısı yaptı. Claude’un geliştiricisi olan şirketin yöneticisi, hızla güçlenen sistemlerin kötüye kullanım risklerine karşı bağımsız denetim ve ortak standartlar önerdi.

Yapay zekâ geliştirme çalışmaları duracak mı?

Amodei’nin önerisi, model eğitimini veya teknik ilerlemeyi durdurmayı hedeflemiyor. Amaç, şirketlerin yeni modelleri güvenli hale getirmesi ve alınan önlemlerin dışarıdan uzmanlarca değerlendirilmesi için yeterli süre sağlamak.

Bu yaklaşımda modellerin daha yetenekli hale gelmesiyle güvenlik önlemlerinin gelişimi birlikte ele alınıyor.

Üç aşamalı öneride neler var?

İlk adım, bağımsız değerlendiricilerin şirketlerin içinde sürekli çalışabilmesi. Anthropic, bu uzmanlara kendi risk değerlendirme ekiplerine benzer erişim sağlamayı taahhüt ediyor. Böylece güvenlik uygulamaları ve model geliştirme süreçleri dışarıdan incelenebilecek.

İkinci aşama, demokratik ülkelerdeki yapay zekâ şirketlerinin ortak güvenlik standartları üzerinde uzlaşması. Üçüncü aşama ise risklerin yönetimi için hükümetler arasında uluslararası işbirliği kurulması.

Yavaşlama çağrısı neden yapıldı?

Çağrı, Anthropic’in Claude modellerinin siber operasyonlar, gözetim, dolandırıcılık ve silah geliştirme gibi faaliyetlerde kötüye kullanımını ele alan tehdit raporunun ardından geldi.

Amodei’ye göre yapay zekânın yeni nesil modellerin geliştirilmesine katkısının artması da ilerlemeyi hızlandırıyor. Bu nedenle güvenlik araştırmalarına ayrılacak ek zaman, sistemlerin davranışlarını anlamak ve olası sorunları önlemek açısından önem taşıyor.