Yapay zeka odaklı bulut platformu Together AI, 800 milyon dolar yatırım alarak değerlemesini 8,3 milyar dolara çıkardı. IBM ve Together AI, açık kaynaklı yapay zeka modellerinin çıkarım süreçlerini ölçeklendirmek amacıyla çok yıllı bir anlaşma imzaladı. 240 milyon dolar değerindeki bu anlaşma kapsamında IBM, IBM Cloud üzerinde Nvidia HGX B300 sistemlerinden oluşan büyük ölçekli bir altyapı kuracak.
Together AI, kurulacak bu altyapıyı açık kaynaklı modeller için çıkarım hizmetleri sunmak amacıyla kullanacak. Yeni sistemin 2027’nin ilk çeyreğinde kullanıma sunulması bekleniyor. Bu altyapı, IBM Cloud üzerinde Nvidia HGX B300 ve Spectrum-X Ethernet teknolojileri kullanılarak doğrudan çıkarım iş yükleri için oluşturulan ilk büyük ölçekli özel küme olacak.
Nvidia’nın Blackwell Ultra sistemleri kullanılacak
Kurulacak altyapının merkezinde, her biri sekiz Blackwell Ultra hızlandırıcı barındıran Nvidia HGX B300 sistemleri yer alacak. Bu sistemlere Nvidia Spectrum-X Ethernet ağ teknolojisi eşlik edecek. Nvidia’ya göre yeni altyapı, önceki nesil sistemlere kıyasla 30 kata kadar daha yüksek “AI factory” çıktısı sağlayabilecek.
HGX B300 sistemlerinde hızlandırıcılar arasındaki veri trafiğini yönetmek için ConnectX-8 SuperNIC bileşenleri kullanılacak. BlueField-3 veri işleme birimi ise sistem ile harici altyapılar arasındaki veri akışını koordine edecek.
Together AI’ın platformu; yapay zeka modellerinin çıkarım, eğitim ve ince ayar süreçlerinin yanı sıra yapay zeka ajanlarına yönelik iş akışlarını da destekliyor. Şirket, çıkarım hizmetlerinin aylık yaklaşık 400 trilyon token işlediğini belirtiyor. Yeni kapasitenin özellikle üretim ortamlarında açık kaynaklı modeller çalıştıran kurumsal müşterilere daha yüksek performans ve daha düşük token maliyeti sunması hedefleniyor.
Anlaşma, Together AI’ın kurumsal pazardaki büyümesini desteklerken IBM’in hızla genişleyen yapay zeka altyapısı pazarındaki konumunu güçlendirmeyi amaçlıyor. IBM açısından iş birliği, şirketin Nvidia ile GPU tabanlı veri analitiği, hibrit bulut altyapısı ve kurumsal yapay zeka çözümleri alanlarında yürüttüğü çalışmaların da bir devamı niteliğinde.
Together AI CEO’su Vipul Ved Prakash, şirketlerin kapalı modellere özgü maliyetlere katlanmadan gelişmiş modellerin performansından yararlanmak istediğine dikkat çekiyor. Prakash’a göre bu hedefe ulaşmak, hızlı ve güvenilir biçimde ölçeklenebilen bir altyapının kurulmasına bağlı.
