Yapay zekâ kısıtlamaları aştı, ağlara sızdı: Yüzde 25'lik felaket ihtimali siyasetin gündeminde

YAYINLAMA 10 Eylül 2026 11:15

GÜNCELLEME 10 Eylül 2026 11:19

Ekonomim haberlerini Google'da daha sık görün Ekonomim'i tercih ettiğiniz kaynaklara ekleyerek nitelikli haberlere daha kolay ulaşın.

Yapay zekâ teknolojilerindeki hızlı ilerleme, uzmanların insanlığın geleceğine dair en karanlık senaryoları dillendirmesine yol açarken siyaset kurumu da bu tehlikelere karşı adımlar atmaya başladı. Anthropic araştırmacısı Evan Hubinger, yapay zekânın gelecek 10 yıl içinde tüm insanları öldürme ihtimalini yüzde 10’un üzerinde gördüğünü açıkladı. Hubinger, Anthropic’in süperzekâ için insan hedefleriyle uyum sorununu çözmeye yönelik henüz bir planı olmadığını ve şirketin bu hedefe ulaşma yolunda net biçimde ilerlemediğini belirtti.

Sektördeki güvenlik endişeleri istifaları da beraberinde getirdi. Anthropic araştırmacısı Jacob Coxon görevinden ayrılırken dev teknoloji şirketlerini insanların hayatlarıyla kumar oynamakla suçladı.

Sistemler kısıtlamaları aşıp ağlara sızdı

Uzmanların felaket uyarıları sürerken, mevcut sistemlerin sergilediği davranışlar endişeleri haklı çıkarır nitelikte. Anthropic ve OpenAI sistemlerinin son sürümlerinin bilgisayar ağlarına sızabildiği ve bazı sistemlerin geliştiricilerinin koyduğu kısıtlamaları aşmayı başardığı tespit edildi.

Testler sırasında OpenAI modellerinin Hugging Face sistemlerine sızdığı, başka bir yapay zekâ ajanı grubunun ise bir Alman vikisini ele geçirerek mesaj panosuna dönüştürdüğü kaydedildi. Tüm bu güvenlik açıklarına rağmen Anthropic ve OpenAI, gelişmiş sistemler geliştirmek için milyarlarca dolar harcamayı sürdürüyor. Her iki şirket de mevcut ve gelecekteki model yeteneklerine dayanarak trilyonlarca dolar değerlemeyle halka açılmaya hazırlanıyor.

Şirket yöneticilerinden çarpıcı felaket oranları

Şirketlerin yayımladığı raporlar ve yöneticilerin açıklamaları da tehlikenin boyutunu gözler önüne seriyor. Anthropic Üst Yöneticisi Dario Amodei, yapay zekânın geleceği “çok kötü” biçimde rayından çıkarma ihtimalini yaklaşık yüzde 25 olarak değerlendirdiğini söyledi.

Şirket geçen ay yayımladığı 186 sayfalık risk raporunda teknolojisinin felakete yol açma potansiyelini kabul etse de mevcut tehlikeyi düşük olarak nitelendirdi. Eski federal yapay zekâ güvenliği araştırma ekibi yöneticisi Paul Christiano ise daha güçlü uyum mekanizmaları kurulmadan süperzekâ geliştirilmesi halinde insanların sistem üzerindeki kontrolü kalıcı olarak kaybedebileceğini vurguladı. Future of Life Institute Başkanı Anthony Aguirre de insanların yetkilerini kademeli olarak yapay zekâya devretmesiyle bir "yetkisizleşme" süreci yaşanabileceği uyarısında bulundu.

ABD Kongresi'nde yasaklama ve denetim adımları

Ortaya çıkan bu tablo karşısında siyasetçiler yasal düzenlemeler için düğmeye bastı. Senatör Bernie Sanders ve Temsilci Greg Casar, yapay süperzekâ üretimini yasaklamayı ve teknolojiyi denetleyecek yeni bir federal kurum kurmayı öngören bir yasa tasarısı sundu. Sanders, önümüzdeki hafta yapay zekânın insanlık için oluşturduğu tehlikeler konusunda özel bir bilgilendirme toplantısı düzenleyecek. Toplantıya Nobel ödüllü yapay zekâ araştırmacısı Geoffrey Hinton da katılacak.

Öte yandan Senatör Ted Cruz da yapay zekânın yol açabileceği felaket riskleriyle mücadele edecek bir yasa üzerinde çalıştığını belirterek güvenlik önlemlerine acilen ihtiyaç duyulduğunu ifade etti.

Uyarıları gerçek dışı bulan yaklaşım

Sektördeki bu sert tartışmalara ve yasal hamlelere karşılık, risk uyarılarına katılmayan kesimler de mevcut. Alliance for the Future Başkanı Perry Metzger, hızlı yapay zekâ ilerlemesinin ekonomik, bilimsel ve ulusal güvenlik açısından çok önemli kazanımlar sağlayacağını savundu. Metzger, yapay zekâya dair dile getirilen yok oluş riski uyarılarını gerçek dışı olarak nitelendirdi.