Yapay zeka destekli siber güvenlik çözümleri geliştiren HiddenLayer, 100 milyon dolar yatırım aldı

HiddenLayer, yeni yatırımı satış ve dağıtım faaliyetlerini büyütmek, mühendislik ve araştırma ekiplerini genişletmek ve Avrupa ile EMEA bölgesine açılmak için kullanacağını açıkladı.

Chris Sestito, Tanner Burns ve James Ballard tarafından kurulan şirket, yapay zeka sistemlerine yönelik siber güvenlik çözümleri geliştiriyor. HiddenLayer, yapay zeka modellerini, yapay zeka ajanlarını ve bu sistemlerin kullandığı iş akışlarını kötü amaçlı saldırılara, güvenlik açıklarına ve kod enjeksiyonlarına karşı koruyor.

Özellikle şirketlerin üretimde kullandığı yapay zeka sistemlerinin güvenli şekilde çalışmasını sağlamaya odaklanıyor. Şirketin ürünleri, yapay zeka sistemlerini çalışma sırasında izleyerek (runtime security) olası tehditleri tespit ediyor.

HiddenLayer, prompt injection, yapay zeka ajanlarının manipüle edilmesi ve ajanların kötü amaçlı araçlar kullanması gibi tehditlere karşı koruma sağlıyor. Bunun yanı sıra yapay zeka modellerinin güvenliğini test etmek için saldırı simülasyonları gerçekleştiriyor ve modellerin tedarik zincirindeki riskleri de inceliyor.

HiddenLayer ayrıca özellikle açık kaynaklı ve açık ağırlıklı yapay zeka modellerinin güvenliğine odaklanıyor. Şirket yaklaşık 50 farklı yapay zeka dosya formatını tarayarak kullanılan modelin gerçekten iddia edilen model olup olmadığını kontrol ediyor; modelin içine gizlenmiş başka modeller veya kötü amaçlı bileşenler gibi tehditleri tespit etmeye çalışıyor.