NVIDIA, yapay zeka fabrikalarının elektrik kullanımını otonom yönetiyor
· FikirPilot
Emerald AI platformu, elektrik şebekesinden gelen sinyalle düşük öncelikli işleri yavaşlatarak güç tüketimini otomatik azalttı. NVIDIA'nın yaklaşımı aynı güç bütçesiyle token üretimini artırmayı hedefliyor.
Ağustos'ta Silicon Valley Power, Santa Clara'daki bir yapay zeka fabrikasına elektrik tüketimini azaltma sinyali gönderdi. Emerald AI'nin Conductor platformu, düşük öncelikli işleri yavaşlattı ve yeniden planlarken kritik AI hizmetlerini sürdürdü. Tüketim operatör müdahalesi olmadan dört megavattan üç megavata indi ve şebeke o zamandan beri fabrikaya 200'den fazla talep sinyali gönderdi.
NVIDIA'nın AI Infra Summit'te tanıttığı yaklaşım, yeni iletim hatları beklenmeden AI fabrikalarının elektrik ihtiyacını karşılamayı amaçlıyor. Lambda'nın doğrulamasına göre, sabit bir güç bütçesi akıllı yönetildiğinde token üretimi yüzde 24 artabiliyor.
Yöntem, AI veri merkezlerinin şebeke için sürekli ve esnek olmayan bir yük olma zorunluluğunu azaltmayı hedefliyor. Şebeke işletmecileri, tüketim talebi değiştiğinde hizmeti kesmek yerine iş yüklerini önceliklere göre yeniden düzenleyebilme imkanına değer veriyor. DSX ailesinin yazılım ve tasarım bileşenleri, çözümün yalnızca anlık tüketim ayarı olmadığını gösteriyor.
Kaynak: FikirPilot · TRBülten tarafından derlendi