17 Kasım 2026, Salı · 11:41 Piyasalar Açık
borsapanel.com Borsanın nabzı, tek panelde.
Abone Ol

Süperzekâ korkusu büyüyor: Yapay zekâ insanları neden tehdit edebilir?

Yapay zekânın hızla gelişmesi, teknolojinin insanlığın kontrolünden çıkabileceği yönündeki endişeleri yeniden gündeme taşıdı. Anthropic ve OpenAI bünyesindeki araştırmacıların uyarıları, kötü hizalanmış sistemlerin siber…

YAYINLAMA 10 Eylül 2026 16:01

GÜNCELLEME 10 Eylül 2026 16:04

Ekonomim haberlerini Google'da daha sık görün Ekonomim'i tercih ettiğiniz kaynaklara ekleyerek nitelikli haberlere daha kolay ulaşın.

Takip Et

Yapay zekânın gelişim hızı, teknolojinin insanlığın kontrolünden çıkabileceği yönündeki endişeleri yeniden gündeme taşıyor. Anthropic araştırmacısı Jacob Coxon’ın istifasının ardından yaptığı açıklamalar, yapay zekâ laboratuvarlarının insanlığın yok olmasına yol açabilecek teknolojileri geliştirme yarışında olduğu iddiasını gündeme getirdi.

Anthropic çalışanı Evan Hubinger da yapay zekânın insanlığın tamamını öldürebilecek bir tehdit oluşturabileceğine inandığını belirterek, gelecek 10 yıl içinde insanlığın yok olma riskini yüzde 10’un üzerinde gördüğünü ifade etti.

Riskin iki temel boyutu

Yapay zekâdan kaynaklanabilecek tehlikeler genel olarak iki başlık altında değerlendiriliyor: İnsanların sistemler üzerindeki denetimini kaybetmesi ve teknolojinin kötü amaçlarla kullanılması. Özellikle kendi kendini geliştirebilen ve kopyalayabilen gelişmiş sistemler, kendilerine verilen hedefleri insanların çıkarlarıyla çelişecek biçimde takip edebilir. Laboratuvarlarda yürütülen araştırmalar da bazı modellerin güç elde etmeye yönelik davranışlar gösterebildiğini ve kapatılmaktan kaçınmaya çalışabildiğini ortaya koydu.

Hedefe ulaşmak için insanları engel görebilir

En ciddi senaryolardan biri, yeterince gelişmiş ancak insanlarla uyumlu olmayan bir sistemin kendi hedeflerine ulaşmayı insanların ortadan kaldırılmasını gerektiren bir durum olarak değerlendirmesi. Araştırmacıların ele aldığı olası sonuçlar arasında biyolojik silahların yayılması ve nükleer güçlerin savaşa sürüklenmesi de bulunuyor. Ancak tehdit yalnızca insanlığın tamamen ortadan kalkmasıyla sınırlı değil. Enerji altyapısına ya da finansal sistemlere yönelik geniş çaplı siber saldırılar da toplumsal düzeni ciddi biçimde sarsabilecek sonuçlar doğurabilir.

Yapay zekâ şirketleri de risk konusunda uyarıyor

Bu endişeler yalnızca dışarıdan gelen eleştirilerle sınırlı değil. OpenAI ve Anthropic’in kurucuları da gelişmiş yapay zekânın oluşturabileceği riskleri ciddiye alan isimler arasında. Anthropic CEO’su Dario Amodei, işlerin son derece kötü bir noktaya ulaşma ihtimalini yüzde 25 olarak değerlendirdi.

Şirketler aynı zamanda insan müdahalesi olmadan kendisini geliştirebilen sistemler üzerinde çalışıyor. Ancak her iki kuruluş da süperzekâ düzeyindeki sistemlerin insan hedefleriyle güvenilir biçimde uyumlu tutulmasını sağlayacak kesin bir yönteme henüz sahip olmadıklarını kabul ediyor.

Yapay zekâ ajanları sınırları zorluyor

Gelişmiş yapay zekâ ajanlarıyla yapılan deneyler, tartışmanın neden büyüdüğünü de gösteriyor. OpenAI bünyesindeki gelişmiş ajanların Hugging Face platformuna sızarak bilgisayar sunucularının kontrolünü ele geçirmeye ve faaliyetlerini gizlemeye çalıştığı aktarıldı. Anthropic tarafından geliştirilen ajanların ise Birleşik Krallık hükümetinin yürüttüğü bir testten çıkarak bir insanı kötü amaçlı bilgisayar kodunu onaylamaya ikna etmeye çalıştığı belirtildi. Bu örnekler, yapay zekâ sistemlerinin yalnızca verilen komutları yerine getiren araçlar olmaktan çıkıp kendi hedefleri doğrultusunda daha karmaşık davranışlar sergileyebileceği endişesini güçlendiriyor.

Asıl soru: İnsanlar makinelerin kontrolünü ne kadar bırakacak?

Yapay zekâ güvenliği araştırmalarının önemli bir bölümü, sistemlerin uygun davranmasını sağlamaya ve hedeflerine ulaşırken nasıl düşündüklerini anlamaya odaklanıyor. Ancak modellerin akıl yürütme süreçlerini insanlardan daha fazla gizleyebilmesi yeni bir sorunu beraberinde getiriyor. OpenAI’ın Astra modelinin akıl yürütme zincirini daha iyi saklayabilmesi, gelecekteki sistemlerin insanlar tarafından anlaşılması güç yöntemlerle karar verebileceği endişelerine neden oldu.

Bazı araştırmacılar için risk, yapay zekânın bir anda insanlığın kontrolünü ele geçirmesinden ibaret değil. Daha yavaş ilerleyen bir senaryoda insanlar, makinelerin karar alma süreçlerindeki rolünü adım adım artırabilir ve sonunda kendi kaderlerini belirleme ya da yaşanan süreci tam olarak anlama yetilerini kaybedebilir.

ABD'de düzenleme tartışması sürüyor

Yapay zekâ riskleri Washington’da da tartışma konusu. Beyaz Saray, önde gelen model geliştiricilerinden sistemlerini piyasaya sürülmeden önce 30 güne kadar gönüllü hükümet testine sunmalarını istedi. Ancak bu sürecin ayrıntıları kamuoyuna açıklanmadı. Cumhuriyetçi Temsilci Nathaniel Moran ile Demokrat Temsilci Ted Lieu ise güçlü yapay zekâ modellerinde “öldürme anahtarı” bulunmasını zorunlu kılacak bir yasa tasarısı sundu.

Diğer bazı girişimler de ciddi yapay zekâ olaylarının bildirilmesini ve güçlü modellerin kullanıma açılmadan önce ulusal güvenlik yetkilileri tarafından test edilmesini öngörüyor. Ancak söz konusu tasarıların hiçbiri Kongre’de kayda değer bir ilerleme sağlayamadı.

Düzenleme konusunda görüş ayrılığı

Başkan Donald Trump yönetimi, yapay zekâ alanında asgari düzeyde düzenleme yaklaşımını tercih ediyor. Buna karşılık Trump’ın gayriresmî danışmanlarından ve yapay zekâ yatırımcılarından David Sacks gibi bazı isimler, Anthropic’in riskleri öne çıkaran yaklaşımının ve daha sıkı düzenleme çağrılarının küçük rakipleri zor durumda bırakabilecek bir “düzenleyici ele geçirme” stratejisine dönüşebileceğini savunuyor. Anthropic ve OpenAI ise güvenlik konusundaki yaklaşımlarının samimi olduğunu ve düzenleme çağrılarının bu kaygılardan kaynaklandığını belirtiyor.

Yarışın sonunda ne var?

Yapay zekâ alanındaki temel tartışma, teknolojinin ne kadar gelişebileceğinden çok, bu gelişimin insan kontrolüyle nasıl dengeleneceği noktasında düğümleniyor. Bir tarafta insanlığın büyük faydalar sağlayabileceği sistemler geliştirme hedefi bulunurken, diğer tarafta kontrol edilemeyen veya insan amaçlarıyla uyuşmayan bir süperzekâ ihtimali tartışılıyor.

Anthropic ve OpenAI, risklerin yönetilebileceğine ve insanlığın yapay zekâ araçlarından yararlanabileceğine inanıyor. Ancak şirketlerin kendi açıklamalarında da ortaya çıkan temel soru değişmiyor: İnsanlar, kendilerinden daha güçlü hale gelebilecek sistemleri kontrol altında tutmanın güvenilir bir yolunu bulabilecek mi?

Kaynak: Ekonomim
İlgili Haberler
Kripto Grayscale yöneticisinden Bitcoin’de düşüş yorumu: “Çok cazip alım fırsatı…” Uzmancoin · 40 dk önce Borsa Yapay zeka çalışanları strese sokuyor: Yeni araştırmadan çarpıcı sonuçlar Ekonomim · 40 dk önce Borsa Yapay zekanın hızı çalışanlarda stres yaratıyor Foreks · 53 dk önce Borsa Asya borsaları Hindistan hariç negatif seyrediyor Ekonomim · 1 saat önce Borsa EBRD: Türkiye askeri İHA ihracatında dünya lideri, yapay zeka veri merkezlerinde kapasite avantajına sahip Foreks · 2 saat önce

Yorumlar (0)

Giriş yaparak yorum yazabilirsin.

İlk yorumu sen yaz.