Yapay zekâ: Uyar, meşrulaştır, hızlan

Geçen hafta bir istifa mektubu gündemi epey meşgul etti. Anthropic araştırmacısı Jacob Coxon, yapay zekâ şirketlerinin insanlığın geleceğiyle sorumsuzca kumar oynadığını söyleyerek, görevinden ayrıldı. Mesajı bir günde yüz milyondan fazla kez görüntülendi.

Cumartesi günü şirketin CEO’su Dario Amodei uzun bir güvenlik yazısı yayımladı. Yapay zekâ yeteneklerinin, güvenlik çalışmalarının yetişemeyeceği kadar hızlı ilerlediğini ve bu nedenle öncü modellerdeki kapasite artışının yavaşlatılması gerektiğini savundu. Üç aşamalı bir plan önerdi: “Şirketlerin içine bağımsız değerlendiriciler yerleştirmek, demokratik ülkelerde ortak güvenlik standartları oluşturmak ve ardından Çin dahil diğer devletlerle uluslararası sınırlamalar üzerinde uzlaşmak.” Ve şimdilik yalnızca ilk adımı tek taraflı olarak uygulamayı taahhüt etti.

Bu arada, tüm bunlar olurken, masada aylardır hazır duran bir belge daha var. Anthropic'in halka arz dosyası. Şirketin, 2 trilyon dolara varan değerleme beklentisiyle, ekim gibi borsaya açılabileceği konuşuluyor. Böylece istifa mektubu da güvenlik çağrısı da aynı kurumsal hikâyenin içine düştü. Bir tarafta "çok hızlı gidiyoruz" uyarısı, diğer tarafta bu hızı finanse edecek, tarihin en büyük halka arzlarından biri.

Buradaki çelişki yalnızca ikiyüzlülükle açıklanamaz. Daha ilginç bir mekanizma işliyor. Tehlikeyi itiraf etmek, tehlikeyi üretmeye devam etmenin ahlaki ruhsatına dönüşüyor.

İtiraf, devam etmenin ruhsatıdır

Davranış bilimlerinde buna “ahlaki ruhsat etkisi” deniyor. İnsanlar önce erdemli bir tutum sergilediklerinde, bu davranışı sonraki tartışmalı tercihleri için bir tür ahlaki kredi olarak kullanabiliyor. Önce iyi insan olduğumuzu kendimize ve başkalarına kanıtlıyor, ardından sınırları biraz daha kolay esnetiyoruz.

Bu bulgu bireyler üzerine; etkinin büyüklüğü de hâlâ tartışma konusu. Dolayısıyla burada bilimsel bir eşitlikten değil, kurumsal davranışı okumaya yarayan bir benzetmeden söz ediyorum.

Bir yapay zekâ lideri, geliştirdiği teknolojinin kontrolden çıkabileceğini, siber saldırılar düzenleyebileceğini, biyolojik silah üretimini kolaylaştırabileceğini, hatta insanlığın geleceğini tehdit edebileceğini söylediğinde ne oluyor? Normal koşullarda bu sözlerin ürüne olan güveni azaltması beklenir. Yapay zekâda çoğu zaman tersi gerçekleşiyor. Uyarı, şirketin sorumluluk duygusunun kanıtı sayılıyor. Lider “riskleri herkesten iyi gören kişi”, şirket ise “tehlikenin farkında olan güvenli aktör” konumuna yerleşiyor.

Uyarıyı yayımlamış bir şirket, ertesi hafta modelini büyütürken artık "uyarmış" bir şirkettir. İtiraf, devam etmenin ruhsatı olur.

Riskler, değerlemenin bir parçası

Yapay zekâda risk uyarılarının tuhaf bir çift işlevi var. Ahlaki yüzü topluma "bu teknolojinin tehlikelerinin farkındayız" derken, ticari yüzü yatırımcıya "elimizde gerçekten çok güçlü bir şey var" diyor.

Bir CEO’nun “modellerimiz altı ay içinde internetin tamamını tehdit edebilecek yeteneklere ulaşabilir” demesi yalnızca güvenlik uyarısı değildir. Aynı zamanda ürünün gücüne ilişkin olağanüstü iddialı bir beyan niteliği taşır. Başka sektörlerde ürünün ölümcül olabileceğini söylemek piyasa değerini taban yapar. Yapay zekâda ise teknolojik üstünlüğün kanıtı gibi okunur. Riskler böylece yatırım anlatısının parçası haline gelir.

Şirket hem tehlikenin kaynağı hem de o tehlikeden bizi koruyabilecek tek uzman olarak konumlanır. Önce problemi ölçeklendirir, sonra çözüm üzerindeki otoritesini büyütür. Risk yükseldikçe güvenlik bilgisinin değeri, güvenlik bilgisinin değeri yükseldikçe de şirketin stratejik önemi artar.

Safety-washing

Yeşil dönüşümde şirketlerin eylem-söylem boşluğuna greenwashing diyoruz. Yapay zekâ ekonomisinde bunun yeni bir türü ortaya çıkıyor: Safety-washing.

Safety-washing, güvenlikten hiç söz etmemek değil. Güvenlik dilinin somut, doğrulanabilir ve maliyet doğuran önlemlerin yerini alması.

Elbette her güvenlik açıklaması washing değil. Amodei’nin önerdiği, dış değerlendiricilere erişim verilmesi gibi adımlar önemli. Sorun, bu uyarının hangi kurumsal sonuçları ürettiğinde.

Çünkü “yavaşlamalıyız” cümlesi ile gerçekten yavaşlamak aynı şey değil. Birincisi söylem, ikincisi maliyet doğuran bir karar. İlki itibar kazandırır; ikincisi pazar payından, değerlemeden, rekabet avantajından vazgeçmeyi gerektirir. Aradaki fark, taahhüt borcudur. Şirket her güvenlik vaadinde geleceğe bir yükümlülük yazar. Bağımsız denetim, model yayımlamama, kapasite artışını sınırlama, olayları açıklama… Bunlar yerine getirilmediğinde borç birikir. Fakat finansal borç bilançoda görünürken, taahhüt borcu dipnotlara bile girmez.

Önemli olan itiraf değil, bedel

Mesele, yapay zekâ liderlerinin uyarılarında samimi olup olmadıkları değil, bu uyarıların bir bedel doğurup doğurmadığı…

Bu uyarının şirkete maliyeti ne oldu? Bir model ertelendi mi? Bir eğitim çalışması durduruldu mu? Bağımsız denetçiye gerçek erişim verildi mi? Bulgular kamuoyuna açıklandı mı? Yönetici primleri güvenlik performansına bağlandı mı? Halka arz izah namesinde güvenlik taahhütlerinin ihlali maddi risk olarak yer aldı mı?

Bu sorular cevapsız kalıyor veya verilen taahhütler doğrulanamıyorsa, uyarı bir güvenlik önleminden çok bir sinyale dönüşür. Topluma “sorumluyuz”, yatırımcıya ise “teknolojimiz düşündüğünüzden de güçlü” der.

Bir zamanlar itiraf, bedel ödemeyi gerektirirdi. Şimdi, samimi bile olsa, onu üreten kurumsal düzen içinde meşruiyet üretip, değerlemeyi besleyebiliyor. Sonunda risk topluma, kazanç şirkete kalıyor.