Fransız ZML, AI Çiplerinde Hızlı Çıkarım İçin Ücretsiz Yazılımı Tanıttı

Fransız yapay zeka girişimi ZML, çeşitli AI çiplerinde hızlı çıkarım yapabilen yeni bir yazılım ürünü tanıttı. Turing Ödülü sahibi Yann LeCun'un desteklediği bu girişim, açık kaynaklı büyük dil modellerinin Nvidia, AMD, Google TPU, Apple Metal ve Intel Arc gibi farklı çiplerde çalışmasını sağlıyor.

ZML'nin yeni LLM çıkarım sunucusu ZML/LLMD, mevcut teknolojik sınırlamaları aşarak farklı çiplerin AI uygulamaları için maksimum hızda kullanılmasını sağlamayı amaçlıyor. ZML'nin kurucusu Steeve Morin, bu yazılımın AI sistemlerinin daha verimli bir şekilde tasarlanmasına yardımcı olacağına inanıyor.

AI Çipleri İçin Yeni Bir Dönem

Yapay zekanın iş hayatımıza ve günlük yaşantımıza entegre olmasıyla birlikte, çıkarımın optimize edilmesi, model eğitiminden daha fazla önem kazanıyor. Ancak, mevcut yazılım ve mimari engeller, kullanıcıların belirli satıcılara bağımlı kalmasına neden oluyor. Morin, bu yazılımın farklı çiplerin bir arada kullanılmasını sağlayarak, şirketlerin maliyetlerini düşürmelerine ve enerji tüketimlerini azaltmalarına yardımcı olacağını belirtti.

Fransız girişim, Avrupa'dan birçok yeni AI çip üreticisine de destek olmayı hedefliyor. Axelera, Fractile, Kalray gibi firmaların adını anan Morin, ZML'nin bu şirketlerle birlikte daha önce yapılmamış projeler üzerinde çalışabileceğini ifade etti.

Nvidia ile İyi İlişkiler

ZML, Nvidia ile olan ilişkisini de vurguladı. Morin, Nvidia'nın mevcut tedarik kapasitesinin, ZML'nin büyümesi için önemli bir avantaj olduğunu belirtti. Çıkarım alanında yapılan yoğun yatırımlar, bu sektörde bir 'çıkarım altın madeni' trendinin oluşmasına yol açtı. ZML, Baseten gibi rakipleriyle de mücadele ediyor; ancak şirketin hedefleri daha geniş bir yelpazeyi kapsıyor.

ZML, 20 kişilik küçük ama etkili bir ekip ile hızlı bir şekilde ilerliyor. Morin, şirketin büyümesine katkıda bulunan finansman kaynakları sayesinde, daha fazla ürün geliştirme planlarının olduğunu da açıkladı.

Ücretsiz Ürün ile Pazar Araştırması

ZML/LLMD, 2024'te piyasaya sürülen ve güncellenen açık kaynaklı ML çerçevesiyle karşılaştırıldığında, açık kaynak olmamakla birlikte, kullanıcı deneyimlerini öğrenmek amacıyla ücretsiz olarak sunuluyor. Morin, bu stratejinin, şirketin büyümesini engellemeyecek şekilde gelir elde etmesine olanak tanıyacağını ifade etti.

ZML'nin gelecekteki ürünlerinin ne zaman ücretli hale geleceği ise henüz belirsiz. Ancak, şirketin yatırımcıları arasında Dagger ve Docker kurucusu Solomon Hykes gibi dikkat çekici isimler bulunuyor. Morin, ZML'nin başarısının, Avrupa'nın yerel AI startup ekosistemine katkı sağladığını vurguladı.