Amazon Web Services (AWS) ने Guardrails for Amazon Bedrock के लिए नए अपडेट की घोषणा की है, जो जनरेटिव AI अनुप्रयोगों की सुरक्षा और विश्वसनीयता को बढ़ाने के लिए डिज़ाइन किए गए हैं। इन अपडेट में मतिभ्रम का पता लगाना और किसी भी मॉडल में अनुकूलित सुरक्षा उपायों के साथ अनुप्रयोगों को मजबूत करने के लिए एक स्वतंत्र API शामिल है, जो जिम्मेदार और भरोसेमंद आउटपुट सुनिश्चित करता है।
मतिभ्रम का पता लगाने की सुविधा एक मूल्यवान अतिरिक्त है, जो ग्राहकों को संदर्भ स्रोत और उपयोगकर्ता की क्वेरी के आधार पर मॉडल प्रतिक्रियाओं की सटीकता को सत्यापित करने की अनुमति देती है। यह सुनिश्चित करने में मदद करता है कि मॉडल गलत या नई जानकारी उत्पन्न नहीं कर रहा है जो तथ्यात्मक डेटा पर आधारित नहीं है।
ApplyGuardrail API ग्राहकों को कॉन्फ़िगर किए गए सुरक्षा उपायों के विरुद्ध उपयोगकर्ता इनपुट और मॉडल प्रतिक्रियाओं का मूल्यांकन करने में सक्षम बनाता है। यह सुविधा उन संगठनों के लिए विशेष रूप से उपयोगी है जो स्व-प्रबंधित या तृतीय-पक्ष LLM का उपयोग करते हैं, क्योंकि यह उन्हें अपने सभी अनुप्रयोगों में मानकीकृत सुरक्षा उपायों को लागू करने की अनुमति देता है।
इन अपडेट के साथ, AWS सुरक्षित और विश्वसनीय जनरेटिव AI अनुप्रयोगों के निर्माण के लिए ग्राहकों को सशक्त बनाने वाले उपकरण और समाधान प्रदान करने की अपनी प्रतिबद्धता की पुष्टि करता है। Guardrails for Amazon Bedrock इस दिशा में एक महत्वपूर्ण कदम है, जो ग्राहकों को उनके द्वारा उपयोग किए जाने वाले LLM के व्यवहार पर अधिक नियंत्रण प्रदान करता है।
इन नई सुविधाओं के बारे में अधिक जानने के इच्छुक ग्राहक AWS वेबसाइट पर Guardrails for Amazon Bedrock उत्पाद पृष्ठ पर जा सकते हैं।
