Amazon, Çarşamba günü, bulut bilişim biriminin, Nvidia'nın yeni nesil grafik işleme birimlerini (GPU'ları) soğutmak için geliştirdiği yeni donanımları duyurdu. Bu GPU'lar, üretken yapay zeka iş yüklerinde kullanılan ve yüksek miktarda enerji tüketen cihazlardır.
Nvidia'nın grafik işleme birimleri, yapay zeka patlamasında önemli bir rol oynuyor, ancak bu cihazlar büyük miktarda enerji tüketiyor. Bu da, bu işleme birimlerini kullanan şirketlerin, donanımlarını soğutmak için ek ekipmanlara ihtiyaç duyacağı anlamına geliyor.
Amazon, Nvidia'nın yüksek enerji tüketen grafik işlem birimlerinden en iyi şekilde yararlanabilmek için, sıvı soğutma sistemlerini geniş ölçekte uygulayabilecek veri merkezleri kurmayı inceledi. Ancak bu süreç, uzun zaman alacaktı, diyor Amazon Web Services'ten (AWS) Bulut Bilişim ve Makine Öğrenimi Başkan Yardımcısı Dave Brown.
Brown, "Bu birimler, veri merkezlerinde çok büyük bir alan kaplayacak ya da su tüketimini büyük ölçüde artıracak. Diğer hizmet sağlayıcılarında, daha düşük iş yüklerinde bazı çözümler başarılı olabilir, ancak bu çözümler, büyümemizi destekleyecek sıvı soğutma kapasitesine sahip olmayacak," dedi.
Bunun yerine, Amazon mühendisleri, mevcut ve yeni veri merkezlerine bağlanabilen dahili bir ısı değiştirici (IRHX) geliştirdi. Bu, AWS müşterilerinin artık P6e olarak bilinen hesaplama birimlerine erişebileceği anlamına geliyor.
Yeni sistemler, Nvidia'nın yoğun işlem gücü tasarımını takip ediyor. Nvidia'nın GB200 NVL72 işlemcisi, bir raf içinde 72 Nvidia Blackwell GPU birimini içeriyor ve bunlar, büyük yapay zeka modellerinin eğitimini ve çalıştırılmasını sağlamak üzere birbirine bağlanıyor.
Nvidia'nın GB200 NVL72 işlemci tabanlı hesaplama grupları daha önce Microsoft veya CoreWeave aracılığıyla mevcuttu. Amazon Web Services ise dünyadaki en büyük bulut altyapısı sağlayıcısı olarak biliniyor.
Amazon, daha önce kendi altyapı cihazlarını piyasaya sürmüştü. Şirket, genel amaçlı ve yapay zeka hesaplamaları için özel yongalar üretmiş ve kendi depolama sunucuları ve ağ yönlendirici cihazlarını tasarlamıştır.
Amazon, yerel üretilen cihazları çalıştırma konusunda daha az dış tedarikçiye bağımlıdır, bu da şirketin kârlarına fayda sağlayabilir. Microsoft ise, ikinci büyük bulut hizmet sağlayıcısı olarak Amazon'un izlediği yolu takip etti ve önemli ilerlemeler kaydetti. 2023 yılında, şirket, geliştirdiği Maya yapay zeka çiplerini soğutmak için "Sidekicks" adı verilen kendi sistemlerini tasarladı.
