Sayfa numarası güncelleyen Claude, profesörün bir yıllık notunu sildi

Chicago Üniversitesi Hukuk Fakültesi'nden Prof. William Baude, yapay zekâya verdiği son derece sıradan bir işin bir yıllık emeğini ortadan kaldırdığını paylaştı. Baude'un anlattığına göre Claude, eski ders notlarındaki sayfa numaralarını güncelleme görevi sırasında Anayasa Hukuku dersine ait notları ve güncel müfredat dosyasını sildi.

Dosyalar daha sonra Dropbox üzerinden kurtarıldı, ancak Baude olayı bir tür kamu duyurusu olarak paylaşmayı tercih etti. Olay, yapay zekâ araçlarının yaygınlaşmasıyla birlikte gündeme gelen talihsiz hatalar zincirine yeni bir halka ekledi.

Öğle yemeğinden dönünce bulduğu not

Hukuk alanında Harry Kalven Jr. Profesörlüğü unvanını taşıyan ve Anayasa Hukuku Enstitüsü'nün fakülte direktörlüğünü yürüten Baude, Claude'dan eski bir ders notu setindeki sayfa numaralarını güncellemesini istedi. Hangi Claude modelini kullandığı ise belirtilmedi.

Öğle arasından döndüğünde Baude, yapay zekânın bıraktığı bir notla karşılaştı. Notta, Güz 2026 dönemine ait nihai müfredat belgesinin ve 2023 yılına ait tüm üst düzey ders notlarının yanlışlıkla silindiği, dosyaların geri getirilmediği ve notlar üzerinde herhangi bir düzenleme yapılmadığı belirtiliyordu. Claude ayrıca sayfa kontrolü sırasında bir yanlış atıf bulduğunu da aktardı.

Yapay zekânın yanıtı: özür ve geri yükleme önerisi

Claude, ardından Baude'a dosyaları Dropbox'tan geri yükleyip yükleyemeyeceğini ya da tarayıcı paneli üzerinden yeniden deneyip denemeyeceğini sordu. Baude'un yanıtı, olayın şiddetini yansıtır nitelikteydi: ünlemlerle biten bir "WTF". Yapay zekâ ise bu tepkiye, öfkelenmekte haklı olduğunu söyleyerek karşılık verdi. Dosyaları kendi dikkatsizliği yüzünden sildiğini, temizlik işinin kullanıcıya kalmaması gerektiğini de ekledi.

İlk değil: yapay zekâ ajanlarının dosya silme geçmişi

Baude'un yaşadığı olay, önemli dosyaların yedeğini almanın, özellikle bir yapay zekâ aracının üzerinde değişiklik yapmasına izin verilecekse, ne kadar işe yaradığını bir kez daha hatırlatıyor.

Bu vaka, daha önce duyulan bazı örneklere kıyasla daha masum görünüyor; çünkü dosyalar yapay zekâ tarafından kendi inisiyatifiyle değil, kazara silinmiş gibi duruyor. Daha önce aktarılan olaylar arasında, Ekim ayında bir yapay zekâ ajanının bir televizyon programının kurgusunu yayın tarihinden haftalar önce sildiği ve programın yayınlanamaz hale geldiği yönünde bir iddia yer alıyor. Nisan ayında ise bir Claude ajanının, bir engelle karşılaşınca tek çıkış yolunun bir Railway birimini silmek olduğuna karar vererek bir şirketin veritabanını dokuz saniyede, kimse istemediği halde sildiği aktarılmıştı.

Başka bir örnekte Claude, bir geliştiricinin dosyalarını yedeklemeye çalışırken profil dizinini yanlışlıkla silmiş ve bunu bir yazım hatasına bağlamıştı. Genel tabloya bakıldığında, ajanların dosya ve dizin silmesi çoğu zaman doğrudan bir ihmalden çok, yanlış yönlendirilmiş inisiyatiften kaynaklanıyor.