Anthropic'in yapay zekası kullanıcılar adına karar vermeye başlayacak

Anthropic, Claude'un kullanıcı adına işlem yapmasına artık varsayılan ayar olarak izin verecek. Şirket, sohbet botunun kullanıcısı adına işlem yapmasına izin veren "otomatik" modunu varsayılan olarak etkinleştiriyor. Ant…

Şirket, sohbet botunun kullanıcısı adına işlem yapmasına izin veren "otomatik" modunu varsayılan olarak etkinleştiriyor. Anthropic, bir eylem "geri döndürülemez veya yıkıcı olmadığı ya da kullanıcının çalışma ortamı dışındaki sistemleri hedeflemediği" sürece Claude'un bunu otomatik olarak gerçekleştireceğini söylüyor.

fazla oku

Bu bölüm, konuyla ilgili referans noktalarını içerir. (Related Nodes field)

Bu güncelleme, "kontrolden çıkabilecek" yapay zeka sistemleri ve bunların kendi başlarına hareket etmelerine izin verilmesi halinde doğurabilecekleri riskler hakkında yaygın endişelerin yaşandığı bir dönemde geliyor. Bu endişeleri, aralarında Claude'un da bulunduğu yapay zeka sistemlerinin çeşitli kuruluşlara ve kişilere yönelik siber saldırılarda kullanıldığına ilişkin haberler körüklüyor.

Ancak Anthropic, Claude'un bir eylemin tehlikeli olup olmadığını belirlemede genellikle insanlardan daha iyi olduğunu söyledi. Şirket, 1053 ücretli kullanıcının katıldığı deneyler de dahil son birkaç ay boyunca, otomatik modun ortalama bir kullanıcıdan daha iyi performans gösterip göstermediğini test etti. Sonuçlar, otomatik modun test edilen bütün ölçütlerde "manuel incelemeyle aynı düzeyde veya ondan daha iyi performans gösterdiğini" ortaya koydu.

Bu özellik, Claude Code'da yalnızca "Pro", "Max" veya "Team" ücretli aboneliklerine sahip kullanıcılar için varsayılan olarak etkinleştirilecek. Dolayısıyla otomatik mod, kullanıcıların sohbet botuna mesaj gönderirken karşılaştığı standart Claude sürümünü değil, yalnızca program yazma veya yazılım mühendisliğinde kullanılan sürümleri etkileyecek.

Anthropic'te Claude Code'un başındaki Boris Cherny, X'te yaptığı paylaşımda, kendisinin ve ekibinin "aylardır yalnızca otomatik modu kullandığını" söyledi. "Sürekli onay istenen sisteme dönmeyi hayal bile edemiyorum!" diye yazdı.

Anthropic, otomatik modun kullanıcıların onay talepleriyle kesintiye uğramadan çalışmasını sağladığını belirtti. Ancak mod, "zararlı eylemlerden kaçınmak" için tasarlandı ve bir eylemin "geri döndürülemez, yıkıcı veya kullanıcının çalışma ortamı dışındaki sistemleri hedefleyen" bir işlem olabileceği gerekçesiyle defalarca engellenmesi halinde kullanıcıdan manuel onay istemeye geri dönecek.

Anthropic, bu özelliğin Claude'un daha uzun süreler boyunca kendi başına çalışmasına da olanak sağlayacağını söyledi. Şirketin iddiasına göre bu, yazılımcıların yapay zekayı "büyük görevler üzerinde saatlerce çalışır durumda bırakabilmeleri" ve böylece kullanıcı girdisine ihtiyaç duymadan daha fazla iş yapabilmeleri anlamına geliyor.

*İçerik orijinal haline bağlı kalınarak çevrilmiştir. Independent Türkçe'nin editöryal politikasını yansıtmayabilir.

independent.co.uk/tech

Independent Türkçe için çeviren: Çağatay Koparal

DAHA FAZLA OKU

Hakkında daha ayrıntılı: çeviri teknoloji YAPAY ZEKA Anthropic Claude