Writer, Yeni AI Modeli Palmyra X6 ile Maliyetleri Yüzde 50 Düşürüyor

Yapay zeka endüstrisinde maliyet bilinci artarken, kullanıcılar daha uygun fiyatlı çözümler arayışında. Bu bağlamda, Writer şirketi, pazarlamacılar için AI araçları sunan bir firma olarak, yeni amiral gemisi modeli Palmyra X6'yı tanıttı. Bu model, Z.ai'nin açık kaynak modeli GLM-5.2 üzerine inşa edilmiş bir post-training varyasyonu olarak tasarlandı ve kullanıcılarına daha düşük maliyetlerle hizmet sunmayı vaat ediyor.

Writer, yeni modelin ve şirketin altyapısındaki iyileştirmelerin, müşterilerin temel görevlerde maliyetlerini %50'ye kadar azaltabileceğini öngörüyor. Bu yenilikler, hem yeni model hem de standart ajans altyapısında yapılan önemli güncellemelerle birlikte kullanıma sunulacak.

Maliyetleri Düşürmek İçin Yeni Bir Yaklaşım

Writer CEO'su May Habib, TechCrunch'a verdiği demeçte, "Kurumsal şirketler, sürekli olarak yeni benchmark'ları takip etmekten bıktı. Onlar, maliyetlerin sabitlenmesini istiyor ve bu noktada kimsenin yeterince başarılı olamadığını düşünüyorum," dedi. Yeni yaklaşım, karmaşık ve çok aşamalı görevleri daha hızlı ve daha az token ile gerçekleştirmeye odaklanıyor. Writer, altyapı optimizasyonunun bu hedefe ulaşmada kritik bir rol oynadığını vurguluyor.

Yapılan Araştırmaların Sonuçları

Writer araştırmacıları tarafından yapılan son bir çalışma, farklı modeller arasında yapılan küçük değişikliklerin maliyetleri azaltma konusunda daha güvenilir bir yöntem olduğunu ortaya koydu. Araştırma, altyapıdaki değişikliklerin, model seçiminden daha etkili olduğunu ve maliyetlerin ortalama %40 oranında düştüğünü gösterdi. Araştırmacılar, "Altyapı, bir organizasyonun kullandığı her modelde - mevcut ve gelecekteki - verimliliği artıran tek bileşendir," ifadelerini kullandı.

Model Seçiminde Esneklik

Writer'ın müşterileri için deneyim, model bağımsız kalmaya devam ediyor; Palmyra X6, diğer Writer modelleriyle veya Azure veya Amazon Bedrock üzerinden içe aktarılan dış modellerle birlikte çalışacak. Ancak Habib, maliyetleri düşürme çabasının büyük AI laboratuvarlarına karşı bir güvensizlik oluşturduğunu da belirtti. Bu laboratuvarların, token kullanımını artırma konusunda finansal bir teşviki olduğunu vurguladı.

Habib, "Buradaki maliyet patlaması, müşteriler için eşi benzeri görülmemiş bir durum ve CIO'ların laboratuvarlardan vazgeçme oranı da oldukça yüksek," dedi. Ayrıca, AI laboratuvarlarının kurumsal şirketlerin AI'dan fayda sağlamalarına nasıl yardımcı olabileceklerini yeterince anlamadıklarını da ekledi.