Cathedral, yapay zekâ ajanlarıyla Anthropic'e sızdığını açıkladı

Yapay zekâ girişimi Cathedral, otonom yapay zekâ ajanları kullanarak Anthropic'in sistemlerine sızmayı başardığını duyurdu. Edinilen bilgiye göre ajanlar, hedef şirketin ağına üçüncü taraf iş yazılımlarındaki zayıflıklar üzerinden girdi. Anthropic de olayı doğrulayarak sınırlı sayıda sisteme erişim sağlandığını açıkladı.

Olay, gelişmiş yapay zekâ laboratuvarlarının bile sıradan kurumsal yazılımlar üzerinden saldırıya açık kalabildiğini gösteriyor. Üstelik bir yapay zekâ şirketinin, başka bir yapay zekâ girişiminin geliştirdiği otonom araçlarla hedef alınması olayı daha da çarpıcı kılıyor.

Sızma nasıl gerçekleşti

Anthropic, HackerOne üzerinden iki ayrı hata ödül programı yürütüyor. Bunlardan biri şirketin sistemlerindeki teknik açıkları hedefliyor. Davetiyeli olan diğeri ise Claude'un güvenlik korumalarını aşan evrensel jailbreak yöntemlerini bulan araştırmacıları ödüllendiriyor. Cathedral'ın bulgularını bu ödül programı aracılığıyla Anthropic'le paylaştığı belirtiliyor.

Aktarılanlara göre Cathedral'ın insan araştırmacıları birkaç gün boyunca sisteme girmeye çalıştı ancak başarılı olamadı. Ekip bunun ardından yapay zekâ ajanlarını devreye aldı ve ajanlar 12 saatten kısa bir sürede, üçüncü taraf iş yazılımlarındaki açıklar üzerinden içeri girmeyi başardı.

Hangi veriler etkilendi

Ağa erişim sağlayan ajanların toplantı dökümlerine, maaş ve iş teklifi bilgilerine ve Slack mesajlarına ulaştığı bildirildi. Çalışanların Claude ile yaptığı konuşmaların ise açığa çıkmadığı anlaşılıyor.

Anthropic, Cathedral'ın satış, insan kaynakları ve BT sistemlerinin sınırlı bir bölümüne eriştiğini, bazı müşteri ve iş ortaklarına ait iletişim bilgilerinin ve temel kullanıcı hesap kayıtlarının ihlal edildiğini doğruladı. Kaynak koduna ve yapay zekâ model ağırlıklarına erişilmediği de vurgulandı. Şirket, izleme sistemlerinin Cathedral'ın faaliyetlerinin bir kısmını kendilerine bildirilmeden önce tespit ettiğini ve erişimi aynı gün kapattığını belirtti.

Kural ihlali iddiası ve olası etkiler

Anthropic'in, Cathedral'ın faaliyetinin tam kapsamını açıklamayarak programın kurallarını ihlal ettiğini söylediği aktarılıyor. Bunun ödülün ödenip ödenmeyeceğini nasıl etkileyeceği belli değil. Öte yandan Anthropic'in halka arz hazırlığı içinde olduğu bir dönemde hassas verilerin, beyaz şapkalı bir hacker de olsa, bir tarafa sızması şirket açısından hoş karşılanacak bir durum değil.

Cathedral, ABD ordusu ve hükümeti için saldırgan ve savunmacı siber operasyonlara odaklanan bir girişim. Şirket, ABD'nin kapatılan Hükümet Verimliliği Departmanı (DOGE) bünyesinde yer almış eski isimler tarafından kuruldu. Kurucular arasında Gavin Kliger, Luke Farritor, Marko Elez ve Jack Stein bulunuyor. Şirketin raporunda, sıradan kurumsal yazılımlardaki zayıflıkların en gelişmiş kuruluşların altyapısını bile tehlikeye atabildiğinin her ABD şirketi için bir uyarı olması gerektiği ifade ediliyor.

Siber güvenlik alanından iki uzman da olayı yorumladı. Bir uzman, saldırganların herkese girdiği yoldan, yani tedarikçiler üzerinden içeri girdiğini ve güvenlik olgunluğunun entegre edilen en zayıf tedarikçiyle sınırlı kaldığını söyledi. Bir diğeri ise Anthropic'in tespit ve müdahale çabasını takdir etti, ancak asıl ölçütün saldırı yollarının kapandığının bağımsız biçimde doğrulanması olduğunu vurguladı.