Tensor Processing Unit'ler (TPU'lar), makine öğrenme algoritmalarını hızlandırmak için tasarlanmış özel ASIC çipleridir. Google, 2015'ten beri TPU'ları ML tabanlı bulut hizmetlerini geliştirmek için kullanıyor ve şimdi en son TPU neslini tamamen benimseyerek daha verimli ve güçlü bir AI hızlandırıcı platformu oluşturuyor.
Bu yılki I/O geliştirici konferansında Google, şimdiye kadarki "en gelişmiş" TPU'sunu duyurdu. Trillium, makine öğrenme algoritması hızlandırıcısı, özel AI donanımı üzerinde on yılı aşkın bir süredir yapılan araştırmaların doruk noktası olup, bir sonraki AI temel modelleri dalgasını inşa etmek için gereken temel bileşeni temsil ediyor.
Google, ilk TPU'nun 2013'te geliştirildiğini ve TPU'lar olmadan şirketin birçok popüler hizmetinin bugün mümkün olmayacağını açıkladı. Gerçek zamanlı sesli arama, fotoğraf nesne tanıma, dil çevirisi ve Gemini, Imagen ve Gemma gibi gelişmiş AI modelleri, TPU'ların faydalandığı alanlardan bazılarıdır.
Öncekiler gibi, Trillium da sinir ağı iş yüklerini hızlandırmak için baştan aşağı tasarlanmıştır. Google'un 6. nesil TPU'su, daha büyük matris çarpma birimlerinin ve daha yüksek saat hızının benimsenmesi sayesinde önceki nesil TPU'ya (v5e) kıyasla çip başına 4.7 kat tepe performansı sağlıyor.
Trillium çipleri, gelişmiş sıralama ve öneri iş yüklerinde yaygın olan "ultra büyük gömümleri" işlemek için özel bir hızlandırıcı olan üçüncü nesil SparseCore ile donatılmıştır. Ayrıca, yeni TPU'lar, önceki nesil v5e'ye kıyasla iki katına çıkarılmış Yüksek Bant Genişliği Bellek kapasitesi ve bant genişliği ile iki kat interconnect bant genişliği sunmaktadır.
Trillium, çok daha güçlü ve yetenekli olmasına rağmen daha sürdürülebilir. Google, 6. nesil TPU'ların, TPU v5e'ye göre yüzde 67'den daha fazla enerji verimli olduğunu belirtiyor. Şirket, Trillium'un müşterilere sağlayacağı bazı gelişmiş AI tabanlı yetenekleri listeledi; bu yetenekler arasında Essential AI'ın üzerinde çalıştığı insanlar ve arabalar arasındaki etkileşimler bulunuyor.
Trillium ayrıca robotlar için AI modelleri üzerinde çalışan Nuro, ileri düzey ilaç keşfi için Deep Genomics ve generatif AI aracılığıyla iş dünyasını "dönüştürmeyi" amaçlayan Deloitte'a AI hızlandırma hizmeti sunacak. Google DeepMind de Gemini serisindeki Google'un kendi temel modellerinin gelecekteki sürümlerini eğitmek için Trillium TPU'larını kullanacak.
Trillium, Google'ın en gelişmiş AI iş yüklerini yönetmek için tasarladığı süper bilgisayar mimarisi AI Hypercomputer'ın bir parçasıdır. AI Hypercomputer'da, TPU tabanlı optimize edilmiş altyapı ve açık kaynak yazılım çerçeveleri, geleceğin AI modellerini eğitmek (ve hizmet vermek) için birlikte çalışacak.
Üçüncü taraf şirketler, bu yılın ilerleyen dönemlerinde Trillium tabanlı yeni bulut örneklerine erişim sağlayabilecekler.
Yorumlar
0 yorum