Anthropic'in yapay zekası kendi gelişimini bir yılda iki kat hızlandırdı

Yeni bir araştırmada Anthropic'in yapay zeka modellerinin kendi gelişimlerini hızlandırdığı bulundu. Bu durum, kontrolden çıkan yapay zekaya dair endişeleri artırıyor. Yapay zeka güvenliğini takip eden bir örgütün bağıms…

Yapay zeka güvenliğini takip eden bir örgütün bağımsız değerlendirmesi, Claude'un geliştiricisinin yapay zeka alanındaki ilerlemesinin bir yıl öncesine kıyasla artık iki kat daha hızlı olduğunu gösterdi.

fazla oku

Bu bölüm, konuyla ilgili referans noktalarını içerir. (Related Nodes field)

Kâr amacı gütmeyen Model Değerlendirme ve Tehdit Araştırmaları (METR) kuruluşunun paylaştığı bulgular, Anthropic CEO'su Dario Amodei'nin yapay zekayı geliştirme hızının yavaşlatılması yönünde çağrı yaptığı dönemde geldi.

Teknoloji patronu eylülde yayımladığı "We Must Pace the Frontier" (İlerlemeyi Yavaşlatmalıyız) başlıklı makalede, yapay zeka modellerini güvenli şekilde geliştirmek için üç maddelik bir plan önermişti.

Amodei, "Aşağı yukarı bu yazdan beri yapay zeka, esasen yeni nesil yapay zekayı geliştirme yeteneğinin artması sayesinde çarpıcı bir hızda ilerliyor" diye yazmıştı.

Bu dinamik, özyinelemeli öz gelişim diye adlandırılıyor... Denetlenmediği takdirde teknoloji, bu sistemleri anlama ve kontrol etme yeteneğimizi aşabilir. Bu nedenle eğer devam edilecekse bile, çok dikkatli şekilde ilerlenmeli.

OpenAI CEO'su Sam Altman da o dönemde yaptığı açıklamada "ilerlemeyi yavaşlatmak gerektiğine" katıldığını söylemiş ve Amodei'nin bağımsız değerlendirme uzmanları önerisini "harika bir fikir" diye nitelemişti.

Anthropic, METR'dan araştırmacıları şirket içi verileri incelemeleri ve modellerinin yeteneklerini değerlendirmeleri için davet etmişti.

Perşembe günü yayımlanan raporda, Anthropic'in son bir yılda karşılaştırmalı performans açısından fiilen iki yıllık bir ilerleme kaydettiği belirtiliyor.

Araştırmacılar gelişimdeki bu hızlanmanın, modelleri eğitmek için kullanılan bilgi işlem gücündeki artıştan ziyade, yapay zeka modellerindeki özyinelemeli öz gelişimden kaynaklandığını söylüyor.

Raporda, "Yapay zeka sistemleri, yapay zeka geliştirme sürecini ciddi derecede hızlandırmaya başlarsa, bu durum uç noktada ve riskli yeteneklerin aniden ortaya çıkmasına yol açabilir" ifadeleri yer alıyor.

Araştırmacılar ayrıca yapay zeka geliştirmenin en kritik kısımlarının denetiminde hâlâ insanlara ihtiyaç duyulduğunu ancak bu durumun yakında değişebileceğini de belirtiyor.

Ekip, "Yapay zekanın, model eğitim sürecinin en önemli kısımlarına henüz büyük önem taşıyan ve tamamen özerk katkılar sağlayamadığını biliyoruz" diye yazıyor.

Ancak araştırmacılar, bu tür katkıların yakında gerçekleşebileceğini ima eden önemli 'yaşam belirtileri' tanımladı. Fakat bu katkıların olgunluk düzeyi, alana bağlı olarak ciddi farklılık gösterebilir.

*İçerik orijinal haline bağlı kalınarak çevrilmiştir. Independent Türkçe'nin editöryal politikasını yansıtmayabilir.

independent.co.uk/tech

Independent Türkçe için çeviren: Büşra Ağaç

DAHA FAZLA OKU

Hakkında daha ayrıntılı: çeviri YAPAY ZEKA teknoloji Anthropic