Sam Altman: Evdeki bilgisayarlarda RAM durması 'oldukça kötü'

OpenAI CEO'su Sam Altman, Cheeky Pint adlı YouTube kanalına verdiği röportajda yerel yapay zekâ çıkarımına ve dolayısıyla insanların evdeki bilgisayarlarında DRAM bulundurmasına dair dikkat çeken bir görüş dile getirdi. Altman'a göre bu durum, küresel ölçekte bakıldığında 'oldukça kötü' bir tablo oluşturuyor.

Sözler, veri merkezlerinde devasa miktarda bellek bulunan bir şirketin başındaki ismin, masaüstü bilgisayardaki 32 GB'lık RAM'i sorun olarak görmesi nedeniyle dikkat çekti.

Altman'ın gerekçesi: Bellek atıl kalıyor

Altman, röportajda insanların açık kaynaklı modelleri kendi bilgisayarlarında yerel olarak çalıştırabileceği varsayımını ele aldı. Halihazırda sahip oldukları ya da kurmak istedikleri sistemlerde yerel yapay zekâ çalıştırma fikrini değerlendirirken bunun neden kötü bir fikir olduğunu anlattı.

Altman'ın sözleri şöyleydi: Küresel dağıtım açısından bakıldığında, herkesin dünyanın sınırlı DRAM arzından bir bölümünü kendi bilgisayarında tutması ve bunu zamanın yalnızca yüzde 5'inde kullanması oldukça kötü. Arzın bu kadar kısıtlı olduğu bir ortamda bulutta azami kullanım hedeflenmeli. Altman, pek çok insanın sezgisinin bunun tam tersi yönünde olduğunu da sözlerine ekledi.

Şirketin iş modeliyle bağlantısı

OpenAI'ın bazı açık kaynaklı modelleri bulunsa da şirketin temel işi, veri merkezlerinde çalışan kapalı kaynaklı modellere dayanıyor. Bu nedenle Altman'ın açıklamaları, bir bakıma şirketin kendi iş modelini savunması olarak da okunabilir.

Dizüstü bilgisayarlar ve oyun sistemleri henüz OpenAI için ciddi bir tehdit oluşturmuyor. Ancak yerel çalıştırma imkânı genişlerse kullanıcılar, GPT-6 Luna gibi modellere yönelik abonelik ücretlerinde bir gün daha az ödeme yapabilir. Altman'ın konuşması, şirketin RAM'in ev bilgisayarları yerine OpenAI'ın veri merkezlerine gitmesini tercih ettiğini düşündürüyor.

Donanım sahipliği endişesi ve varsayımlar

Bu tutum, meraklı kullanıcılar arasında kendi donanımına ve yazılımına sahip olamama, bunun yerine bulutta bir ajanı ve bilgisayarı kiralamak zorunda kalma endişesini de tetikliyor.

Altman'ın argümanı ayrıca birkaç varsayıma dayanıyor: Veri merkezi yatırımlarının yavaşlamayacağı ve yapay zekâ veri merkezlerinde 7/24 kullanılan RAM'in; tablo hazırlama, web gezintisi, oyun ve ara sıra yerel yapay zekâ için kullanılan belleğe kıyasla daha değerli olduğu.

Röportajda ayrıca bu hafta gündeme gelen PHP güvenlik açıkları, eğitim sırasında modellerin yalıtılması (sandboxing) ve OpenAI'ın matematik alanındaki araştırmaları gibi konulara da değinildi.