Google क्लाउड ने आपके AI-प्रथम भविष्य के लिए शक्तिशाली बुनियादी ढांचे के नवाचारों की घोषणा की, जिसमें छठी पीढ़ी का TPU, ट्रिलियम, NVIDIA H200 टेंसर कोर GPU द्वारा संचालित A3 अल्ट्रा VM, हाइपरकंप्यूट क्लस्टर, कस्टम एक्सियन प्रोसेसर पर आधारित C4A VM, जुपिटर डेटा सेंटर नेटवर्क और टाइटेनियम होस्ट ऑफलोड क्षमता में वृद्धि, और हाइपरडिस्क ML स्टोरेज सेवा शामिल है। ये वृद्धि ग्राहकों के लिए AI बुनियादी ढांचे के प्रदर्शन, उपयोग में आसानी और लागत दक्षता में सुधार लाने का लक्ष्य रखती हैं। ट्रिलियम TPU v5e की तुलना में महत्वपूर्ण प्रदर्शन सुधार प्रदान करता है, जिसमें प्रशिक्षण प्रदर्शन में 4 गुना से अधिक सुधार, अनुमान थ्रूपुट में 3 गुना तक वृद्धि और ऊर्जा दक्षता में 67% की वृद्धि शामिल है। A3 अल्ट्रा VM पिछली पीढ़ियों की तुलना में प्रदर्शन में एक महत्वपूर्ण छलांग लगाने के लिए डिज़ाइन किए गए हैं, जिसमें GPU-से-GPU नेटवर्किंग बैंडविड्थ 2 गुना और LLM अनुमान प्रदर्शन 2 गुना तक अधिक है। हाइपरकंप्यूट क्लस्टर AI त्वरक समूहों के प्रबंधन को सुव्यवस्थित करता है, जिससे एकल API कॉल के माध्यम से विश्वसनीय और दोहराने योग्य परिनियोजन सक्षम होते हैं। C4A VM अब सामान्य रूप से उपलब्ध हैं, जो सामान्य-उद्देश्य वाले वर्कलोड की एक विस्तृत श्रृंखला के लिए बेहतर प्रदर्शन और दक्षता प्रदान करते हैं। AI वर्कलोड का समर्थन करने के लिए टाइटेनियम और जुपिटर नेटवर्क को बढ़ाया गया है, नए टाइटेनियम ML नेटवर्क एडेप्टर के साथ RoCE पर GPU-से-GPU ट्रैफ़िक के 3.2 Tbps प्रदान करते हैं। हाइपरडिस्क ML अब सामान्य रूप से उपलब्ध है, जो AI और HPC वर्कलोड के लिए उच्च-प्रदर्शन भेदभाव प्रदान करता है, जिसमें तेज़ डेटा लोड समय और अधिक लागत दक्षता होती है।