Google, Trillium adlı yeni nesil yapay zeka TPU’sunu duyurdu
Üretken yapay zeka, teknolojiyle etkileşimimizi ve iş yapma şeklimizi değiştiriyor. Ancak bu ilerlemeler, en yetenekli modelleri eğitmek ve bunları küresel bir kullanıcı nüfusuna etkileşimli olarak sunmak için her zamankinden daha fazla bilgi işlem gücü gerektiriyor. Google, bu bağlamda yıllardır yapay zekaya özgü özel donanımlar olan TPU‘lar (Tensor Processing Unit) geliştiriyor. Bunun son örneği ise Trillium oluyor. Google Trillium duyuruldu
Altıncı nesil Trillium TPU’lar, TPU v5e’ye kıyasla çip başına en yüksek işlem performansında etkileyici bir 4,7 kat artış elde ediyor. Google bunu kısmen çipin MXU birimlerini (matrix-multiply units) genişleterek ve genel saat hızını artırarak başarmış gibi görünüyor. Yüksek Bant Genişlikli Bellek (HBM) kapasitesini ve bant genişliğini iki katına çıkardıklarını söyleyen Google, TPU v5e’ye göre çip arası ara bağlantı genişliğini de iki katına çıkardıklarının altını çiziyor. Daha da önemlisi Trillium, ultra büyük katıştırmaları işlemek için özel bir hızlandırıcı ola SparseCore‘a sahip. Bu, modellerin daha hızlı eğitilmesini ve düşük gecikme sunmasını sağlıyor. Belirtilenlere göre Trillium işlemci, v5e’ye göre yüzde 67 daha fazla enerji tasarrufu sağlıyor. Bu çipler 256 TPU’ya kadar ölçeklendirilebilecek. “Google bu an için inşa edildi”
Google’ın ana şirketi Alphabet CEO’su Sundar Pichai, sektörün makine öğrenimi gücüne olan talebinin son altı yılda 1 milyon kat arttığını ve Google’ın bu an için inşa edildiğini, zira on yıldan uzun bir süredir yapay zeka çiplerine öncülük ettiklerini söyledi. Google Trillium TPU’lar esasında yapay zeka veri merkezlerinde pazara hakim olan Nvidia’ya bir alternatif sunuyor. Bilindiği üzere Nvidia, bu pazarın yüzde 80’ine hakim ve geri kalan yüzde 20’nin büyük çoğunluğu da Google’ın TPU’larının çeşitli versiyonlarından oluşuyor. Google bu çipleri kendisi satmıyor bunun yerine bulut bilişim platformu aracılığıyla erişim kiralıyor. Google, yeni Trillium çipinin 2024’ün sonlarında bulut müşterilerine sunulacağını söyledi. Bu arada Blackwell tabanlı yeni Nvidia GPU’ları ise 2025’te gelecek. Ek olarak Google, geçtiğimiz ay ilk ARM tabanlı bulut işlemcisi Axion’u tanıtmıştı. Arm’ın Neoverse V2 CPU’su kullanılarak tasarlanan Axion, en yakın rakibinden yüzde 30 daha iyi performans sunacak.
